Ça dépend. Les poids des réseaux de neurones peuvent être représentés graphiquement ou visualisés pour un aperçu. Ceci est particulièrement utile si le réseau neuronal fonctionne avec un traitement visuel. Il est possible de "dériver" quelles entrées de bas niveau du réseau neuronal créent des neurones particuliers à des niveaux supérieurs pour "tirer" en travaillant à l'envers à travers les poids du réseau neuronal - en d'autres termes, le problème de trouver / dériver l'entrée de bas niveau des motifs qui excitent au maximum des neurones particuliers et la représentation graphique des résultats. Un bon exemple de cela est le récent résultat révolutionnaire de Google dans un réseau visuel autoformé qui s'est auto-organisé pour trouver des modèles de plus haut niveau comme les chats et les visages humains, etc. [1], [2], [3]
Ceci est également connu sous le nom de «détection de caractéristiques» et il existe des recherches récompensées par un prix Nobel (1981 Hubel / Weisel) qui démontrent que les neurones cérébraux réels fonctionnent de manière similaire, à des degrés divers. Une recherche active est en cours / continue dans ce domaine dans les systèmes biologiques et artificiels.
Une autre façon d'analyser les poids nets neuronaux consiste à conclure quels facteurs (entrées) affectent le réseau neuronal et lesquels ne le font pas. Par exemple, supposons que le réseau neuronal soit utilisé pour prédire les cours des actions et qu'il ait diverses entrées liées à différentes variables économiques telles que le PIB, les prix de l'or, DJIA (un indice) et les taux d'intérêt. Une fois que le réseau est formé (avec succès!) Pour prédire quelque chose (par exemple les prix futurs), on peut déterminer dans quelle mesure chacune des variables d'entrée a un effet sur la prédiction finale.
On peut également déterminer la corrélation négative ou positive de base entre l'entrée et la sortie. De cette façon, les réseaux de neurones peuvent être utilisés d'une manière très similaire aux techniques statistiques comme l' analyse factorielle .
La réponse est donc "oui absolument", mais seulement dans le sens où il existe différentes façons de révéler des "algorithmes" dans les réseaux de neurones via des représentations graphiques ou autres représentations "lisibles par l'homme" autrement qu'avec la représentation typique des algorithmes, c'est-à-dire le code. Mais représenter les poids des réseaux de neurones d'une manière lisible par l'homme et trouver de nouvelles représentations utiles est un domaine de recherche actif.
[1] Google met son cerveau virtuel de la technologie au travail Technology Review
[2] Le cerveau artificiel de Google apprend à trouver des vidéos de chats
câblées
[3] Combien d'ordinateurs pour identifier un chat? 16 000 NYT