Quel est le problème du bruit blanc pour l'utilisation réelle d'un DNN?

J'ai lu que les réseaux neuronaux profonds peuvent être relativement facilement trompés ( lien ) pour donner une confiance élevée dans la reconnaissance d'images synthétiques / artificielles qui sont complètement (ou au moins principalement) hors du sujet de confiance.

Personnellement, je ne vois pas vraiment de gros problème avec DNN donnant une confiance élevée à ces images synthétiques / artificielles, mais je pense que donner une confiance élevée pour le bruit blanc ( lien ) peut être un problème car c'est un phénomène vraiment naturel que la caméra peut voir dans le monde réel.

Quel est le problème du bruit blanc pour l'utilisation réelle d'un DNN? Ces faux positifs peuvent-ils être détectés à partir du bruit ordinaire, peuvent-ils être évités d'une manière ou d'une autre?

Le bruit blanc qui trompe les DNN n'est pas vraiment un bruit blanc. Il a été modifié de la même manière que les images synthétiques mal classées ont été modifiées. Vous devez changer de nombreux pixels d'entrée exactement de telle manière que ces petits changements ne soient pas perceptibles, mais propagés à travers le réseau s'ajoutent à une mauvaise classification. Cela ne se produira pas par hasard.