s
19 708 Pages

la règle Delta Il est une règle de descente de gradient pour mettre à jour les coefficients de pondération des signaux d'entrée qui arrivent à un perceptron. On calcule la valeur de la dérivée de la fonction sigmoïde pour une valeur qui sera utile plus tard:

Depuis un ou plusieurs neurones ont la capacité d'interpoler les données qui sont fournies afin d'apprendre une fonction qui mieux les rapproche, on peut considérer la condition de combinaison de la méthode de moindres carrés, pour évaluer l'erreur globale du calcul des données entrantes à partir d'un seul neurone:

De cette façon, nous essayons d'obtenir une valeur minimale de , somme des erreurs au carré . Intéressants que pour un poids donné correspond à l'erreur minimum de l'ensemble du neurone, alors la variation de la pente est négative pour le déplacement du poids dans le sens négatif du gradient. Ensuite, il y aura la corrélation suivante:

Cette formule peut également être écrit:

Pour obtenir la formule générale de la règle delta, on peut dire que

et

.

et nous pouvons alors écrire l'identité suivante:

Nous avons également

On obtient ainsi la formule générale règle delta:

Les coefficients de pondération sont mis à jour en ajoutant le poids du neurone précédent (ou la valeur d'entrée) de la variation trouvée, après avoir procédé à la comparaison, en fonction de la règle delta de la manière suivante:

Dans le cas d'un seul neurone (perceptron), On peut se rapprocher de la fonction ainsi:

tableau récapitulatif

règle Delta
  • est le taux d'apprentissage (valeur entre 0 et 1). Des valeurs plus faibles ont besoin d'un plus grand nombre de formations - telles âge - mais elle tend à obtenir un résultat plus précis
  • est l'erreur, la différence entre la sortie du neurone et le résultat attendu, donnée par
  • Il est la dérivée de la fonction sigmoïde , que fonction d'activation qui renvoie la sortie.
  • Il est le résultat de la somme pondérée du neurone de valeurs d'entrée en tenant compte de leurs poids respectifs :

bibliographie

  • Tom Mitchell, Machine Learning, McGraw Hill, 1997.
  • Ben Krose, Patrick van der Smagt, Une introduction aux réseaux de neurones, L'Université d'Amsterdam

Articles connexes

Activité wiki récente

Aidez-nous à améliorer BooWiki
Commencez