Comment dériver des erreurs dans le réseau neuronal avec l'algorithme de rétropropagation?

De cette vidéo d'Andrew Ng vers 5h00

entrez la description de l'image ici

Comment sont $\delta_3$ et $\delta_2$ dérivé? En fait, qu'est-ce que $\delta_3$ signifie même? $\delta_4$ est obtenu en comparant à y, une telle comparaison n'est pas possible pour la sortie d'une couche cachée, non?

machine-learning neural-networks backpropagation

— qed
source

Le lien vidéo ne fonctionne pas. Veuillez le mettre à jour ou fournir un lien vers le cours. Merci.

— MadHatter

Je vais répondre à votre question sur le $\delta_i^{(l)}$ , mais rappelez-vous que votre question est une sous-question d'une question plus vaste, c'est pourquoi:

\nabla_{je j}^{(l)} = \sum_{k} θ_{k je}^{(l + 1)} δ_{k}^{(l + 1)} * ({une}_{je}^{(l)} (1 - {une}_{je}^{(l)})) * {une}_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \sum_k \theta_{ki}^{(l+1)}\delta_k^{(l+1)}*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

Rappel sur les étapes des réseaux de neurones:

Étape 1: propagation directe (calcul de la $a_{i}^{(l)}$ )
Étape 2a: propagation vers l'arrière: calcul des erreurs $\delta_{i}^{(l)}$
Étape 2b: propagation vers l'arrière: calcul du gradient $\nabla_{ij}^{(l)}$ de J ( $\Theta$ ) en utilisant les erreurs $\delta_{i}^{(l+1)}$ et le $a_{i}^{(l)}$ ,
Étape 3: descente de gradient: calculez le nouveau $\theta_{ij}^{(l)}$ en utilisant les dégradés $\nabla_{ij}^{(l)}$

Tout d'abord, pour comprendre ce que $\delta_i^{(l)}$ sont , ce qu'ils représentent et pourquoi Andrew NG parle d'eux , vous devez comprendre ce qu'Andrew fait en ce moment et pourquoi nous faisons tous ces calculs: Il calcule le gradient $\nabla_{ij}^{(l)}$ de $\theta_{ij}^{(l)}$ à utiliser dans l'algorithme de descente de gradient.

Le gradient est défini comme:

\nabla_{i j}^{(l)} = \frac{\partial C}{\partial θ_{i j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial \theta_{ij}^{(l)}}$

Comme nous ne pouvons pas vraiment résoudre cette formule directement, nous allons la modifier en utilisant DEUX MAGIC TRICKS pour arriver à une formule que nous pouvons réellement calculer. Cette dernière formule utilisable est:

\nabla_{i j}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)})) * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

Pour arriver à ce résultat, le PREMIER TRUC MAGIQUE est que l'on peut écrire le gradient $\nabla_{ij}^{(l)}$ de $\theta_{ij}^{(l)}$ en utilisant $\delta_i^{(l)}$ :

\nabla_{i j}^{(l)} = δ_{i}^{(l)} * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$ Avec

δ_{i}^{(L)}

$\delta_i^{(L)}$ défini (pour l'indice L uniquement) comme:

δ_{i}^{(L)} = \frac{\partial C}{\partial z_{i}^{(l)}}

$\delta_i^{(L)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

Et puis le SECOND MAGIC TRICK utilisant la relation entre $\delta_i^{(l)}$ et $\delta_i^{(l+1)}$ , pour définir les autres index,

δ_{i}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)}))

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

Et comme je l'ai dit, nous pouvons enfin écrire une formule dont nous connaissons tous les termes:

\nabla_{je j}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * ({une}_{je}^{(l)} (1 - {une}_{je}^{(l)})) * {une}_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

DÉMONSTRATION DU PREMIER TRUC MAGIQUE: $\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

Nous avons défini:

\nabla_{je j}^{(l)} = \frac{\partial C}{\partial θ_{je j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial \theta_{ij}^{(l)}}$

La règle de chaîne pour les dimensions supérieures (vous devez VRAIMENT lire cette propriété de la règle de chaîne) nous permet d'écrire:

\nabla_{je j}^{(l)} = \sum_{k} \frac{\partial C}{\partial z_{k}^{(l)}} * \frac{\partial z_{k}^{(l)}}{\partial θ_{je j}^{(l)}}

$\nabla_{ij}^{(l)} = \sum_k \dfrac {\partial C} {\partial z_k^{(l)}} * \dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}}$

Cependant, comme:

z_{k}^{(l)} = \sum_{m} θ_{k m}^{(l)} * {une}_{m}^{(l - 1)}

$z_k^{(l)} = \sum_m \theta_{km}^{(l)} * a_m^{(l-1)}$

On peut alors écrire:

\frac{\partial z_{k}^{(l)}}{\partial θ_{je j}^{(l)}} = \frac{\partial}{\partial θ_{je j}^{(l)}} \sum_{m} θ_{k m}^{(l)} * {une}_{m}^{(l - 1)}

$\dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}} = \dfrac {\partial}{\partial \theta_{ij}^{(l)}} \sum_m \theta_{km}^{(l)} * a_m^{(l-1)}$

Du fait de la linéarité de la différenciation [(u + v) '= u' + v '], on peut écrire:

\frac{\partial z_{k}^{(l)}}{\partial θ_{je j}^{(l)}} = \sum_{m} \frac{\partial θ_{k m}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{m}^{(l - 1)}

$\dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}} = \sum_m\dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)}$

avec:

je F k, m \neq je, j, \frac{\partial θ_{k m}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{m}^{(l - 1)} = 0

$if k,m \neq i,j, \ \ \dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)} = 0$

je F k, m = je, j, \frac{\partial θ_{k m}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{m}^{(l - 1)} = \frac{\partial θ_{je j}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{j}^{(l - 1)} = {une}_{j}^{(l - 1)}

$if k,m = i,j, \ \ \dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)} = \dfrac {\partial\theta_{ij}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} = a_j^{(l-1)}$

Alors pour k = i (sinon c'est clairement égal à zéro):

\frac{\partial z_{je}^{(l)}}{\partial θ_{je j}^{(l)}} = \frac{\partial θ_{je j}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{j}^{(l - 1)} + \sum_{m \neq j} \frac{\partial θ_{je m}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{j}^{(l - 1)} = {une}_{j}^{(l - 1)} + 0

$\dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}} = \dfrac {\partial\theta_{ij}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} + \sum_{m \neq j}\dfrac {\partial\theta_{im}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} = a_j^{(l-1)} + 0$

Enfin, pour k = i:

\frac{\partial z_{je}^{(l)}}{\partial θ_{je j}^{(l)}} = {une}_{j}^{(l - 1)}

$\dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}} = a_j^{(l-1)}$

En conséquence, nous pouvons écrire notre première expression du gradient $\nabla_{ij}^{(l)}$ :

\nabla_{je j}^{(l)} = \frac{\partial C}{\partial z_{je}^{(l)}} * \frac{\partial z_{je}^{(l)}}{\partial θ_{je j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}} * \dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}}$

Ce qui équivaut à:

\nabla_{je j}^{(l)} = \frac{\partial C}{\partial z_{je}^{(l)}} * {une}_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}} * a_j^{(l-1)}$

Ou:

\nabla_{je j}^{(l)} = δ_{je}^{(l)} * {une}_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

DÉMONSTRATION DU SECOND MAGIC TRICK : $\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$ ou:

δ^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * ({une}^{(l)} (1 - {une}^{(l)}))

$\delta^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a^{(l)}(1-a^{(l)}))$

N'oubliez pas que nous avons posé:

δ^{(l)} = \frac{\partial C}{\partial z^{(l)}} une n ré δ_{je}^{(l)} = \frac{\partial C}{\partial z_{je}^{(l)}}

$\delta^{(l)} = \dfrac {\partial C} {\partial z^{(l)}} \ \ \ and \ \ \ \delta_i^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

Encore une fois, la règle de chaîne pour les dimensions supérieures nous permet d'écrire:

δ_{je}^{(l)} = \sum_{k} \frac{\partial C}{\partial z_{k}^{(l + 1)}} \frac{\partial z_{k}^{(l + 1)}}{\partial z_{je}^{(l)}}

$\delta_i^{(l)} = \sum_k \dfrac {\partial C} {\partial z_k^{(l+1)}} \dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

Remplacement $\dfrac {\partial C} {\partial z_k^{(l+1)}}$ par $\delta_k^{(l+1)}$ , on a:

δ_{je}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} \frac{\partial z_{k}^{(l + 1)}}{\partial z_{je}^{(l)}}

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

Maintenant, concentrons-nous sur $\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$ . On a:

z_{k}^{(l + 1)} = \sum_{j} θ_{k j}^{(l + 1)} * {une}_{j}^{(l)} = \sum_{j} θ_{k j}^{(l + 1)} * g (z_{j}^{(l)})

$z_k^{(l+1)} = \sum_j \theta_{kj}^{(l+1)} * a_j^{(l)} = \sum_j \theta_{kj}^{(l+1)} * g(z_j^{(l)})$

Ensuite, nous dérivons cette expression concernant $z_k^{(i)}$ :

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{je}^{(l)}} = \frac{\partial \sum_{j} θ_{k j}^{(l)} * g (z_{j}^{(l)})}{\partial z_{je}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \dfrac {\partial \sum_j \theta_{kj}^{(l)} * g(z_j^{(l)}) }{\partial z_i^{(l)}}$

Du fait de la linéarité de la dérivation, on peut écrire:

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{je}^{(l)}} = \sum_{j} θ_{k j}^{(l)} * \frac{\partial g (z_{j}^{(l)})}{\partial z_{je}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \sum_j \theta_{kj}^{(l)} * \dfrac {\partial g(z_j^{(l)}) }{\partial z_i^{(l)}}$

Si j $\neq$ i, alors $\dfrac {\partial \theta_{kj}^{(l)} * g(z_j^{(l)})} {\partial z_i^{(l)}} = 0$

En conséquence:

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{je}^{(l)}} = \frac{θ_{k je}^{(l)} * \partial g (z_{je}^{(l)})}{\partial z_{je}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \dfrac {\theta_{ki}^{(l)} * \partial g(z_i^{(l)}) }{\partial z_i^{(l)}}$

Et alors:

δ_{je}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k je}^{(l)} * \frac{\partial g (z_{je}^{(l)})}{\partial z_{je}^{(l)}}

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l)} * \dfrac { \partial g(z_i^{(l)}) }{\partial z_i^{(l)}}$

Comme g '(z) = g (z) (1-g (z)), nous avons:

δ_{je}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k je}^{(l)} * g (z_{je}^{(l)}) (1 - g (z_{je}^{(l)})

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l)} * g(z_i^{(l)})(1-g(z_i^{(l)})$

Et comme $g(z_i^{(l)} = a_i^{(l)}$ , on a:

δ_{je}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k je}^{(l + 1)} * {une}_{je}^{(l)} (1 - {une}_{je}^{(l)})

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l+1)} * a_i^{(l)}(1-a_i^{(l)})$

Et enfin, en utilisant la notation vectorisée:

\nabla_{je j}^{(l)} = [θ^{(l + 1)^{T}} δ^{(l + 1)} * ({une}_{je}^{(l)} (1 - {une}_{je}^{(l)}))] * [{une}_{j}^{(l - 1)}]

$\nabla_{ij}^{(l)} = [\theta^{(l+1)^T}\delta^{(l+1)}*(a_i^{(l)}(1-a_i^{(l)}))] * [a_j^{(l-1)}]$

— tmangin
source

Merci pour votre réponse. Je t'ai voté !! Pourriez-vous s'il vous plaît citer les sources que vous avez référées pour arriver à la réponse ... :)

— Adithya Upadhya

@tmangin: Après la conférence d'Andrew Ng, nous avons

δ_{j}^{(i)}

$\delta_j^{(i)}$ est l'erreur du nœud j dans la couche l. Comment avez-vous obtenu la définition de

δ_{j}^{(i)} = \frac{\partial C}{\partial Z_{j}^{(l)}}

$\delta_j^{(i)}=\frac{\partial C}{\partial Z_j^{(l)}}$ .

— phuong

@phuong En fait, je vous ai raison de demander: seul le

δ_{je}^{(L)}

$\delta_i^{(L)}$ avec l'indice "l" le plus élevé L est défini comme

δ_{je}^{(L)} = \frac{\partial C}{\partial z_{je}^{(l)}}

$\delta_i^{(L)} = \dfrac {\partial C} {\partial z_i^{(l)}}$ Alors que les deltas avec des indices "l" inférieurs sont définis par la formule suivante:

δ_{je}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * ({une}_{je}^{(l)} (1 - {une}_{je}^{(l)}))

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

— tmangin

Je recommande fortement de lire la notation vectorielle backprop du calcul des gradients.

— CKM

Votre formule finale utilisable n'est pas celle d'Andrew Ng, ce qui rend vraiment frustrant de suivre votre preuve. Il avait ∇ (l) ij = θ (l) Tδ (l + 1). ∗ (a (l) i (1 − a (l) i)) ∗ a (l − 1) j, pas θ (l + 1) Tδ (l + 1)

— Aziz Javed

Ce calcul aide. La seule différence entre ce résultat et le résultat d'Andrew est à cause de la définition de thêta. Dans la définition d'Andrew, z (l + 1) = thêta (l) * a (l). Dans ce calcul, z (l + 1) = thêta (l + 1) * a (l). Donc, en réalité, il n'y a aucune différence.

— Qing Song
source