[Python / Machine Learning] Pourquoi le Deep Learning # 1 Perceptron Neural Network

introduction

Gardez une trace de votre apprentissage pour devenir ingénieur en apprentissage automatique. Je vais l'écrire constamment.

Cette fois, j'expliquerai le Perceptron et le réseau de neurones, qui sont les bases de l'apprentissage profond.

Mise en garde

Cet article est un mémo que j'ai appris en lisant "Deep Learning from Zero" (Auteur: M. Yasuki Saito). Veuillez ne pas prendre le contenu et le lire comme référence jusqu'à ce que vous en soyez fatigué. (Les points et les questions sont les bienvenus, mais uniquement avec des mots doux.) Lien: Deep Learning from scratch

table des matières

・ Qu'est-ce que Perceptron? ・ Qu'est-ce qu'un réseau neuronal?

De cet article

Qu'est-ce que Perceptron?

C'est un algorithme qui renvoie une sortie pour plusieurs entrées. C'est comme AND / OR / NAND dans un circuit logique. L'apprentissage profond, qui est également un réseau de neurones, est basé sur cet algorithme.

#Ecrire un circuit ET avec 2 entrées avec Perceptron
def AND(x1,x2,bias=0.5):
    tmp = w1*x1 +w2*x2 - bias
    if tmp <= 0:
        return 0
    elif tmp > 0:
        return 1   

Les variables qui affectent la sortie sont la valeur d'entrée, le poids et le biais. Ceux-ci sont appelés paramètres. Le réseau neuronal ajuste les paramètres et les forme.

Qu'est-ce qu'un réseau neuronal?

En regardant la figure, il ressemble au Perceptron multicouche. Cependant, il y a une grande différence avec Perceptron.

Utilisation d'une fonction d'activation non linéaire

Quelle est la fonction d'activation?

Le total des signaux d'entrée (valeur d'entrée, polarisation, poids) modifie la valeur de sortie au seuil. (allumer un feu) Perceptron dispose également d'une fonction d'activation qui ne change rien, Dans le réseau neuronal, le type de fonction d'activation change en fonction du problème de classification et du problème de régression.

Pourquoi vous avez besoin d'une fonction d'activation

En ayant une fonction d'activation, des valeurs plus diverses peuvent être émises. En plus d'ajuster la valeur d'entrée, le poids et la polarisation, la valeur de sortie peut être modifiée en modifiant la fonction.

Fonction non linéaire

Qu'il s'agisse d'un problème de classification ou d'un problème de régression, le but de l'apprentissage automatique est d'améliorer la précision. Par conséquent, il est nécessaire de trouver la valeur optimale du paramètre tout en ajustant le poids et le biais. Le réglage fin ne peut pas être résolu par une fonction linéaire. (Parce que changer un peu la valeur fera une grande différence) Il peut être résolu en utilisant une fonction non linéaire.