Quelles sont les théories actuelles sur le développement d'une IA consciente?

Quelles sont les théories actuelles sur le développement d'une IA consciente? Est-ce que quelqu'un essaie même de développer une IA consciente?

Est-il possible que la conscience soit un phénomène émergent, c'est-à-dire qu'une fois que nous aurons mis suffisamment de complexité dans notre système, il deviendra conscient de lui-même?

Pour répondre à cette question, nous devons d'abord savoir pourquoi développer une IA consciente est difficile. La raison principale est qu'il n'y a pas de définition mathématique ou autrement rigoureuse de la conscience. Bien sûr, vous avez une idée de la conscience lorsque vous en faites l'expérience et nous pouvons parler de zombies philosophiques, mais ce n'est pas un concept tangible qui peut être décomposé et travaillé. De plus, la majorité de la recherche actuelle en IA est principalement une approche pragmatique en ce sens que l'on essaie de construire un modèle qui peut bien fonctionner selon une fonction de coût souhaitée. C'est un domaine très vaste et passionnant qui englobe de nombreux problèmes de recherche et chaque nouvelle découverte est basée soit sur la théorie mathématique, soit sur des preuves empiriques d'un nouvel algorithme / construction de modèle / etc. À cause de ce,

Donc, pour répondre à votre question, personne n'essaie de faire une IA «consciente» parce que nous ne savons pas encore ce que signifie ce mot, mais cela n'empêche pas les gens d'en parler.

Qu'est-ce que la conscience? L'établissement de la conscience comme objectif pose de réels défis, car nous n'avons pas encore beaucoup de connaissances scientifiques sur la façon dont le cerveau le fait ou sur l'équilibre qui doit exister entre la mémoire à long terme, la mémoire à court terme, l'implicite travail d'interprétation, les modes conscients contrastés de traitement automatique et de traitement délibéré (S1 et S2 de Khanemann). John Kihlstrom (psychologue émérite à Berkeley) propose un ensemble de conférences sur la conscience disponible sur iTunesU que vous pourriez consulter. Carnegie-Mellon Uni a un modèle appelé ACT-R qui modélise directement les comportements conscients comme l'attention.

Qu'est-ce qui pourrait lier notre compréhension de cela? La philosophie considère depuis longtemps la question de la conscience. Personnellement, j'aime Hegel et Heidegger (philosophes). Les deux sont très difficiles à lire, mais Heidegger (interprété par Hubert Dreyfus) utilement l' examen critique du « bon vieux AI » projets des années soixante - dix et a souligné combien plusil n'y a qu'à interpréter une entrée visuelle. Hegel est souvent décrié, mais pour le voir bien interprété, consultez les entretiens de Robert Brandom avec LMU sur la logique de la conscience et Hegel en tant que pragmatiste des premiers vendeurs-ians. Pour que la conscience s'empare de la vérité et de la certitude, elle entreprend «une voie du doute, ou plus exactement une route du désespoir», le long de laquelle elle ne se place jamais au-dessus de la correction. Il y a quelque chose dans le traitement de Hegel de la conscience en termes récursifs, sans succomber à une régression vicieuse, qui, je pense, sera confirmé avant la fin.

DEVELOPPEMENTS récents. Les approches du Deep Learning et les succès pragmatiques du présent sont passionnants, mais il sera intéressant de voir jusqu'où ils peuvent aller en intégrant et en généralisant nécessairement les petits ensembles d'informations auxquels les esprits humains réels sont exposés. Alors que le Deep Learning et l'exploration de données sont extrêmement visibles, des approches symboliques sont également en train de s'améliorer et de se diversifier. Mais il y a un manque d'interprétation théorique globale qui permettrait des généralisations.

Deux cale-pieds de grande théorie. Si je devais choisir un projet auquel je pensais valoir la peine de participer, Giulio Tononi (et al) a mis en place une très belle modernisation du problème dans ' Integrated Information Theory ' Mais vous voudrez peut-être étendre cela avec quelque chose comme Rolf Pfeifer 's' Comment le corps façonne notre façon de penser », parce que certaines des« informations intégrées »sont implicites dans le fait d'avoir les bras et les jambes, les yeux et le nez (mis là par les informations accumulant le travail d'évolution.) Mais il y a tellement de bon travail qui a été fait - les pros écrivent des articles plus vite que je ne peux les lire.

Plus spécifiquement à votre question, il y a des tentatives de simuler le cerveau humain en espérant que l'objectif global aidera à financer la recherche et à produire des réponses à chaque paragraphe ci-dessus.

CERA-CRANIUM est un exemple d'architecture cognitive pour générer la conscience machine (MC). Vers un comportement de conscience chez les personnages de jeux informatiques, 2009 Il a été réalisé comme un système de tableau noir capable d'exécuter des tâches filetées. L'implémentation elle-même fonctionne avec le langage naturel. Cela signifie qu'un agent CERA-CRANIUM a une variable appelée "J'ai peur", et si cette variable est définie sur Vrai, alors l'émotion est activée. Ce n'est donc pas la vraie conscience, mais elle a plus en commun avec les états internes des personnages de "Les Sims".

L'aspect intéressant est que la «conscience de la machine» n'est pas aussi ésotérique qu'elle n'y paraît. Google scholar trouve environ 3k articles à ce sujet. Dans la plupart des cas, le développement commence dans le but d'implémenter des émotions pour les personnages du jeu qui ont ensuite été étendues aux pensées générales d'un humain virtuel.

En plus de l'excellente réponse de Jaden "personne n'essaie réellement de faire une IA" consciente "parce que nous ne savons pas encore ce que ce mot signifie" je voudrais ajouter que le mot "encore" y est très optimiste.

C'est très problématique et probablement impossible de faire la distinction entre un être conscient et un être qui se comporte exactement comme s'il était conscient. Les philosophes se débattent avec cela depuis des siècles; certains ont même épousé le solipsisme, qui est une philosophie «Je vis dans la matrice». En particulier, comment pouvez-vous dire si votre ami d'enfance ou votre conjoint ou quelqu'un d'autre est un être conscient plutôt qu'une incarnation de l'IA qui agit exactement comme le serait un être conscient?

Il est possible, bien sûr, de faire "si ça marche comme un canard et caquille comme un canard alors c'est un canard". Dans ce cas, un test de Turing réussissant l'IA serait automatiquement considéré comme conscient. Cependant, la plupart des gens n'accepteraient pas les critères de conscience de canard; sinon, ils devraient très vite appeler leurs appareils électroménagers fonctionnant avec Alexa conscients.

Mes deux cents sont fondamentalement les mêmes que ceux de Jaden, sauf que je suis plus pessimiste à l'idée de comprendre ce qu'est la conscience.

La conscience est la capacité d'être conscient de ses propres pensées, de ses environs immédiats, de ses sentiments et rien de plus. C'est le mécanisme de notre cerveau pour contrôler nos pensées inférieures, celle basée sur les associations et les émotions. La conscience consiste à observer nos pensées et nos sentiments tout comme nous observons le monde réel avec nos yeux. Ce n'est pas compliqué. La vraie question n'est pas de savoir si les machines sont capables de conscience mais si elles sont capables d'émotions.

Intro : Actuellement, nous observons que les systèmes actuels deviennent meilleurs dans presque toutes les tâches spécialisées que les humains. De plus, nous voyons que les scientifiques travaillent à améliorer les systèmes actuels dans des tâches moins spécialisées (à partir de: la reconnaissance des lettres, aller à: la reconnaissance des animaux, la reconnaissance des espèces, la reconnaissance des activités, la reconnaissance des images en mouvement, ..).

Conclusion : Il n'y a aucune raison de ne pas croire que les systèmes assistés par réseau de neurones ne s'amélioreront pas dans une tâche donnée, à l'avenir.

Question :

Qu'est-ce que la conscience?

Je pense que le problème actuel de la conscience de soi est un problème de définition. Je ne trouvais pas beaucoup de littérature sur ce sujet, malgré la philosophie (ce qui est malheureusement totalement inutile dans ce contexte).

Par manque de littérature, je voudrais faire ma propre définition. Heureusement, nous savons par observation que tous les animaux classés «intelligents» ont un certain degré de «conscience de soi» et sont curieux. De la biologie, nous savons que la curiosité est un mécanisme de motivation pour un comportement d'observation / de raisonnement / de test. Maintenant, nous concluons que la conscience de soi est évidemment le même mécanisme appliqué à votre propre comportement / processus de pensée. Nous imaginons simplement un résultat possible d'une action donnée que nous pouvons effectuer et nous l'évaluons.

La conscience doit donc être le résultat d'un système de motivation donné qui favorise la curiosité et d'un système d'évaluation non complexe suffisamment complexe.

Je suppose qu'un tel système de motivation est très facile à mettre en œuvre. Le problème actuel est qu'il n'existe tout simplement pas de système suffisamment polyvalent pour «résoudre» une tâche donnée. Les réseaux actuels sont encore trop spécialisés.