Que voulait dire Turing en disant que «les machines ne peuvent pas donner lieu à des surprises» est dû à une erreur?

29

J'ai rencontré ci-dessous la déclaration d' Alan M. Turing ici :

"L'opinion selon laquelle les machines ne peuvent pas donner lieu à des surprises est due, je crois, à une erreur à laquelle les philosophes et les mathématiciens sont particulièrement soumis. C'est l'hypothèse que dès qu'un fait est présenté à un esprit, toutes les conséquences de ce fait l'esprit en même temps. C'est une hypothèse très utile dans de nombreuses circonstances, mais on oublie trop facilement qu'elle est fausse. "

Je ne suis pas natif anglophone. Quelqu'un pourrait-il l'expliquer en anglais simple?

turing-machines computability computation-models

— smwikipedia
source

2

peut-être, il est mieux adapté au portail de la philosophie plutôt qu'à la science dure comme CS

— Bulat

3

@Bulat J'allais dire la même chose - et rediriger vers les apprenants de la langue anglaise - mais je me suis alors rendu compte qu'il y avait du contenu lié au CS qui peut être expliqué dans une réponse, qui ne serait probablement pas repris, dans d'autres parties de Stack Exchange.

— David Richerby

7

Un bon exemple est l'itération de la transformation z: = z² + c , où z et c sont des nombres complexes. Que se passe-t-il si je prends un point de départ sur le plan z et que j'itère, le nombre ira-t-il à l'infini ou non? Un homme ordinaire dirait, oui, cela vous donnera deux régions ou peut-être quelques autres où la valeur va à zéro et pour le reste, elle va à l'infini. Relativement peu surprenant. Puis Mandelbrot arrive et trace effectivement les régions sur le plan défini par cette simple "machine". Comme le résultat sort de l'imprimante dotmatrix, cette simple "machine" se révèle ... bizarre.

— David Tonhofer

Facebook et les autres médias sociaux en sont un bon exemple ... Beaucoup de conséquences de leurs algorithmes ne sont pas quelque chose qui était attendu par les créateurs (ou quiconque vraiment).

— aslum

Un individu plutôt excentrique y a fait référence une fois en utilisant une métaphore du feu: "Plus vous construisez votre feu de joie de connaissances, plus l'obscurité est révélée à votre œil surpris"

— JacobIRR

30

Les mathématiciens et les philosophes supposent souvent que les machines (et ici, il signifie probablement «ordinateurs») ne peuvent pas nous surprendre. C'est parce qu'ils supposent qu'une fois que nous apprenons un fait, nous comprenons immédiatement toutes les conséquences de ce fait. C'est souvent une hypothèse utile, mais il est facile d'oublier que c'est faux.

$A$ $B$ $A$ $B$

Honnêtement, cependant, je ne suis pas sûr que l'argument de Turing soit très bon. J'ai peut-être l'avantage d'écrire près de 70 ans après Turing, et je crois comprendre que le mathématicien type en sait beaucoup plus sur la logique mathématique qu'à l'époque de Turing. Mais il me semble que les mathématiciens connaissent généralement assez bien l'idée de systèmes simples ayant un comportement complexe. Par exemple, chaque mathématicien connaît la définition d'un groupe , qui se compose de seulement quatre axiomes simples. Mais personne - aujourd'hui ou alors - ne penserait, "Aha. Je connais les quatre axiomes, donc je connais chaque fait sur les groupes." De même, les axiomes de Peano donnent une très courte description des nombres naturels, mais personne qui les lit ne pense "Bon, je connais tous les théorèmes sur les nombres naturels, maintenant.

— David Richerby
source

22

Historiquement, le début du 20e siècle avait une forte croyance académique dans la «résolution» des mathématiques. Par exemple, le programme de Hilbert et les Principia Mathematica de Whitehead + Russel . Le travail de Godel a résolu cette quête négativement, mais j'imagine qu'il a fallu un certain temps aux universitaires pour embrasser pleinement cette notion; même en reconnaissant pleinement l'exactitude de Godel, les gens se souviendraient encore des grandes idées de Hilbert. Je pense que Turing écrivant seulement deux décennies après Godel s'adresserait à son public avec ce contexte à l'esprit.

— BurnsBA

7

Je me demande si la plupart des mathématiciens en savent "beaucoup plus sur la logique mathématique" que Turing. Mais il est évident que presque tous les humains contemporains ont une expérience beaucoup plus pratique de ce que les machines (et en particulier les ordinateurs) peuvent faire que lui.

— alephzero

4

@alephzero Ce n'est pas ce que j'ai dit! J'ai dit que le mathématicien moyen aujourd'hui en sait plus sur la logique mathématique que le mathématicien moyen à l'époque de Turing.

— David Richerby

14

Votre argument ne semble pas être que l'argument de Turing n'est pas bon, mais qu'il est inutile ou dirigé contre un homme de paille. Je soupçonne fortement Turing que de vraies personnes lui font des arguments comme celui-ci, donc je ne pense pas qu'il fasse un homme de paille à partir de rien. Comme le dit le lézard discret dans un commentaire, Turing dit seulement qu'un argument particulier contre les machines qui nous surprennent est mauvais. Votre réponse dit simplement que cet argument est mauvais est devenu encore plus évident au fil du temps. Cela dit, les gens (bien qu'ils ne soient généralement pas des experts) avancent encore aujourd'hui des arguments dans ce sens.

— Derek Elkins

C'est l'absence de fermeture épistémique.

— Dan D.

19

Juste un exemple - étant donné les règles d'échecs, n'importe qui devrait immédiatement trouver la meilleure stratégie pour jouer aux échecs.

Bien sûr, cela ne fonctionne pas. Même les gens ne sont pas égaux et les ordinateurs peuvent nous surpasser en raison de leurs meilleures capacités à tirer des conclusions des faits.

— Bulat
source

1

Je ne suis pas sûr que ce soit un bon exemple. Les gens ne viennent facilement des stratégies d'échecs, dès qu'ils saisissent bien les règles, et bien que ces stratégies sont évidemment erronées et inutiles contre les joueurs et les moteurs modernes plus expérimentés, ils auraient eu assez de bien contre le début des moteurs d'échecs informatiques.

— leftaroundabout

1

Mon point de vue est que non seulement les gens sont différents, mais les ordinateurs aussi, donc les ordinateurs stupides de l'ère Turing ne signifient pas qu'ils seront toujours stupides. Vous devrez peut-être savoir, cependant, que Turing est mort bien avant que les ordinateurs ne commencent à jouer aux échecs.

— Bulat

1

Je pense que c'est un bon exemple, et capture l'essence du paragraphe de Turing.

— copper.hat

@leftaroundabout Alors ..., les échecs sont-ils un match nul lorsqu'ils sont joués de manière optimale ou une victoire par des blancs ou des noirs? Plus précisément: une découverte relativement récente selon laquelle des finales extrêmement longues peuvent éventuellement conduire à une révision des règles du tirage à 50 coups - une telle découverte compterait comme une "surprise" au sens de la citation

— Hagen von Eitzen

12

C'est l'idée d' émergence , c'est-à-dire lorsqu'un comportement complexe résulte de l'interaction de règles relativement simples. Il existe de nombreux exemples de cela dans la nature, comme le montre ce lien. Colonies d'insectes, volées d'oiseaux, bancs de poissons et, bien sûr, conscience. Dans une volée d'oiseaux ou un banc de poissons, chaque individu dans l'essaim ne prend des décisions que sur la base des autres qui les entourent immédiatement, mais lorsque vous rassemblez un groupe de ces individus tout en suivant ces règles, vous commencez à voir un comportement plus coordonné que vous vous attendriez sans un plan de niveau supérieur. Si vous allez sur Youtube et regardez des démonstrations d' essaims de robots, vous voyez qu'ils évitent tous de se frapper et travaillent à l'unisson. Étonnamment, cela n'a pas besoin d'être accompli en ayant un seul ordinateur central coordonnant le comportement de chaque robot individuel, mais peut plutôt être fait en utilisant la robotique d'essaim où, comme les insectes ou les oiseaux ou les poissons, chaque robot prend des décisions locales qui conduisent à une coordination émergente.

Le jeu de la vie de Conway est une autre démonstration intéressante d'un comportement émergent . Les règles du jeu sont extrêmement simples, mais peuvent conduire à des résultats très fascinants

Un argument tentant contre la capacité des ordinateurs à gagner l'intelligence humaine est de dire qu'ils ne peuvent faire précisément que ce pour quoi ils sont programmés, ils doivent seulement montrer l'intelligence avec laquelle nous les programmons. Si cela était vrai, nous ne nous attendrions pas non plus à ce que le comportement relativement simple des neurones donne lieu à l'intelligence humaine. Pourtant, pour autant que nous puissions en juger, c'est LE cas et la conscience est une propriété émergente du traitement neuronal. Je suis sûr que Turing aurait adoré voir ce qui est devenu possible aujourd'hui avec l'utilisation de réseaux de neurones artificiels

— mowwwalker
source

2

Merci d'avoir mentionné l'émergence. Vous ajoutez un peu d'optimisme à mon pessimisme à propos de l' IA grâce au calcul .

— smwikipedia

9

Les gens pourraient supposer que si j'écris un programme, et que je comprends parfaitement l'algorithme, et qu'il n'y a pas de bogues, alors je devrais savoir quelle serait la sortie de ce programme, et que cela ne devrait pas me surprendre.

Turing dit (et je suis d'accord) que ce n'est pas le cas: la sortie peut être surprenante. La solution à un problème de vendeur ambulant peut être surprenante. La meilleure façon de créer un additionneur complet peut être surprenante. Le meilleur coup dans une partie d'échecs peut être surprenant.

— gnasher729
source

Cela explique pourquoi les ordinateurs pourraient être surprenants, ce qui est la première moitié de la citation, mais vous ne répondez pas à la partie de la citation qui explique pourquoi un argument particulier selon lequel les machines ne peuvent pas surprendre est fallacieux.

— Lézard discret