La singularité doit-elle être prise au sérieux?

10

Le terme singularité est souvent utilisé dans les médias grand public pour décrire une technologie visionnaire. Il a été introduit par Ray Kurzweil dans un livre populaire The Singularity Is Near: When Humans Transcend Biology (2005).

Dans son livre, Kurzweil donne un aperçu d'un futur potentiel de l'humanité qui comprend la nanotechnologie, les ordinateurs, la modification génétique et l'intelligence artificielle. Il soutient que la loi de Moore permettra aux ordinateurs une croissance exponentielle qui se traduit par une superintelligence.

La singularité technologique est-elle prise au sérieux par les développeurs d'IA ou cette théorie n'est-elle qu'une charge de battage médiatique populaire?

— Bucky Rogerson
source

Le débat autour de la singularité est un sous-thème du soi-disant mouvement néoluddite. Il s'agit d'un débat philosophique sur l'avancement de la technologie dans une perspective pessimiste. Bill Joy a publié un célèbre essai dans les années 2000 dans lequel il plaide contre la technologie. Le mouvement néoluddite est une sorte d'anti-idéologie à la pensée plus forte, plus rapide et plus intelligente de la Silicon Valley. La singularité est un mélange d'idéologie technologique pro et contra dans le but de modérer le débat.

— Manuel Rodriguez

2

Je pense que vous aurez beaucoup de mal à trouver une base scientifique solide liée à l'IA qui suggère que la singularité est même possible à distance.

— Andreas Storvik Strauman

Vous pourriez être intéressé par ce Q&R: ai.stackexchange.com/questions/7337/…

— Neil Slater

8

Je peux dire que parmi les chercheurs en IA avec lesquels j'interagis, il est beaucoup plus courant de le voir comme une spéculation sauvage que comme un fait établi.

Cela est confirmé par des enquêtes menées auprès de chercheurs en IA , 80% d'entre eux pensant que des formes fortes d'IA émergeront dans "plus de 50 ans" ou "jamais", et seulement quelques pour cent pensent que ces formes d'IA sont "proches".

Les développeurs de logiciels ne sont pas les mêmes que les chercheurs en IA, et j'ai trouvé que le mythe de la singularité était beaucoup plus répandu parmi les développeurs. Il a une belle résonance: les ordinateurs continuent de s'accélérer, à un moment donné ils seront plus rapides que les cerveaux, à ce stade, nous simulons simplement les cerveaux. Peu de temps après, nous simulons quelque chose de mieux que le cerveau.

Je soupçonne que les raisons pour lesquelles les chercheurs en IA sont moins optimistes trouvent leur origine dans le fait que nous n'avons toujours pas une bonne compréhension de l'intelligence humaine, ni même une compréhension suffisante du cerveau pour la simuler. Par exemple, au cours des deux dernières semaines, nous avons découvert des types de cellules cérébrales jusque-là inconnus . Cela donne l'impression (correcte) que même si nous avions un ordinateur assez rapide, nous ne sommes pas du tout près de pouvoir simuler avec précision un cerveau humain. Nous ne savons pas vraiment ce qu'est un cerveau humain.

Même si nous le savions, les simulations sont nécessairement avec pertes. Nous n'avons peut-être pas de bonnes techniques de simulation. Même si nous avions de bonnes techniques, nous pouvons simuler le cerveau et découvrir que notre simulation ne se comporte pas comme prévu pour des raisons que nous ne comprenons pas. Ceci est très probable lors de la simulation de nouveaux systèmes. Dans un certain sens, les partisans de la singularité ressemblent à des gens prédisant que le contrôle météorologique était proche dans les années 40. Après tout, nous pouvions déjà simuler des conditions météorologiques simples et générer des prévisions qui fonctionnaient. Dans quelle mesure serait-il plus complexe de générer des prévisions parfaites?

— John Doucette
source

2

Cette déclaration se lit comme le début d'un hiver sur l'IA à venir dans lequel les chercheurs en IA rejettent leurs rêves de construire des machines intelligentes et admettent qu'ils n'ont rien à offrir. Je pense que nous pouvons décrire la réalité un peu plus optimiste. Dans le projet Blue brain l'immortalité est l'un des objectifs, et elle peut être atteinte avec des nanobots. Ils sont capables de copier l'esprit d'un cerveau dans un autre cerveau. Selon les futuristes, cela deviendra réalité en 2030. Au moins, l'Union européenne estime que cela a du sens et soutient le projet avec 1 milliard de dollars américains. Ce montant est-il suffisamment sérieux?

— Manuel Rodriguez

2

@ManuelRodriguez Je pense que ce n'est pas tant un hiver qu'une vision réaliste et mature de la technologie. Nous avons vraiment pouvons et vraiment nous en train de résoudre beaucoup de problèmes difficiles avec AI en ce moment. Il est déraisonnable de passer de cela à l'immortalité, aux nanobots et à la copie cérébrale. Peut-être que nous aurons des choses comme ça finalement, mais ces technologies ne sont même pas proches du fonctionnel. Le soutien à la recherche fondamentale à leur égard est bon, mais ce n'est pas comme si l'IA manquait de financement dans les années 50 et 60. Dépenser de l'argent ne signifie pas que nous aurons l'immortalité et le cerveau cloné dans 10 ans. L'idée est risible.

— John Doucette

Je ne dis pas que je crois personnellement à l'immortalité dans 10 ans. Je veux seulement préciser que les projets dits «d'émulation du cerveau entier» comme le projet du cerveau humain de l'UE (1 milliard USD), l'initiative US BRAIN (4,5 milliards USD au total) et le projet China Brain (200 millions USD) ont la singularité comme objectif. Le gouvernement ne dépenserait pas autant pour la recherche s'il doute que les nanobots soient possibles.

— Manuel Rodriguez, le

@ManuelRodriguez Bien sûr qu'ils le feraient. Même un projet qui a échoué et qui a coûté beaucoup d'argent peut entraîner des recherches très précieuses.

— forêt

3

Il y a au moins un scientifique de l'IA très important et sérieux qui croit apparemment à la création d'une véritable intelligence artificielle générale et peut-être de la superintelligence: Jürgen Schmidhuber, qui est le co-auteur du LSTM , parmi de nombreuses autres contributions importantes. En fait, il a récemment fondé NNAISENSE dans ce but ultime, c'est-à-dire construire une intelligence générale artificielle à usage général. Dans son discours Quand les machines créatives dépassent l'homme , chez TEDxLausanne, Schmidhuber parle de la singularité (également connue sous le nom d' oméga ). Voir aussi son article Web Is History Converging? Encore? (2012) ou le papier2006: Célébrer 75 ans d'IA - Histoire et perspectives: les 25 prochaines années (2007).

— nbro
source

C'est vrai, mais il est définitivement dans la minorité des chercheurs en IA à ce sujet. Il est vrai que Schmidhuber est bien accrédité, mais je ne pense pas que la plupart des chercheurs en IA prennent son avis sur cet élément de l'IA au sérieux.

— John Doucette

1

@JohnDoucette Oui, je suis d'accord avec vous. Je voulais juste souligner ce cas exceptionnel et intéressant.

— nbro

0

Pour être sur la même page, vous devez donner des références sur la "singularité technologique", car elle comprend plusieurs domaines (mathématiques, statistiques, philosophie des sciences, épistémologie, sociologie, politique, économie, pour n'en citer que quelques-uns).

Généralement, lorsque vous considérez des concepts liés à adj + ai (où adj = {faible, fort, plein, étroit, ...}), le souffle de la spéculation est assez grand et in fieri , donc en tant que développeur (où pour le développeur I supposons que vous travaillez sur des problèmes liés au codage, pas sur le chef de projet chez google x et autres) Je ne serais pas inquiet, sauf si vous prenez une tasse de thé avec vos collègues pendant une pause.

— Ale
source