Les ordinateurs seront-ils capables de comprendre les émotions des utilisateurs?
Le terme comprendre est multidimensionnel, donc caractériser le degré de compréhension - émotionnel ou autre - est une tâche glissante. Néanmoins, certaines formes de compréhension émotionnelle de l'IA sont possibles.
Un cas simple intéressant
Même les programmes intégrés de claviers musicaux sensibles à la vélocité sont conscients émotionnellement à un niveau primitif. L'utilisation de la vitesse de dépression des touches pour piloter les paramètres de note d'attaque, de timbre et de volume permet aux émotions de l'utilisateur accompli de passer à travers le logiciel dans le contenu émotionnel de la musique, qui peut être ressenti par les auditeurs comme avec des instruments qui ne sont pas numériques. la nature.
Des capacités émotionnelles plus avancées
À l'autre extrême se trouve un large éventail de capacités émotionnelles humaines. Un exemple est l'ensemble des fonctions de reconnaissance complexes sous l'ensemble de compétences d'écoute typique d'un professionnel du counseling.
Le terme informatique affective a été mentionné dans la question. Un conseiller peut noter l'affect du conseil, le ton de lecture de la voix, les séquences d'expression faciale et le langage corporel. À partir de là, une image plus claire de l'état émotionnel interne du conseiller peut être comprise. Ces capacités de reconnaissance et d'analyse peuvent déterminer l'état émotionnel interne du sujet de manière plus précise et plus complète qu'une analyse magistrale d'une IRM fonctionnelle ou la détection de métabolites neurochimiques dans le sang.
Il ne semble pas y avoir de principe théorique qui empêche les ordinateurs de maîtriser la partie avant de l'ensemble de compétences d'un conseiller, la reconnaissance de l'émotion pour produire une séquence codée d'affects. Il reste à déterminer dans quelle mesure le logiciel peut interpréter la séquence des affects (en combinaison avec des expressions simultanées du langage naturel) et déterminer la condition émotionnelle (et les modèles de décision potentiels orientés vers le marché) de l'humain.
Il existe d'autres capacités émotionnelles au-delà des compétences de reconnaissance et d'interprétation émotionnelle. La compassion est en grande partie l'intégration logique de l'éthique en l'absence de motivation égocentrique avec les résultats de la reconnaissance et de l'interprétation émotionnelle. L'ajout d'imitation émotionnelle génère de l'empathie.
Le développement de telles capacités dans les automates est plus important que les motifs superficiels et donc myopes du commerce électronique. Il peut y avoir des applications pour les jouets, l'éducation, le divertissement et les remèdes à la froideur croissante d'une société technologique. (Ceci est discuté plus loin ci-dessous.)
Les fonctions de reconnaissance, d'interprétation, d'application de règles ou de méta-règles dans le domaine éthique à ces interprétations, et d'imitation pourraient bien être à la portée des systèmes numériques.
Isaac Asimov a introduit la possibilité de la télépathie dans l'ensemble des fonctionnalités de l'esprit humain et des automates. Il peut sembler que la télépathie est confinée au domaine de la fiction, mais une émoticône peut être la télé-forme d'une composante de l'affect, comme un sourire. De cette façon, la télépathie assistée par la technologie consensuelle est devenue courante.
Avec l'érosion de la vie privée dans une culture avec une interaction croissante avec les systèmes numériques par un segment croissant du public, des techniques télépathiques moins consensuelles peuvent être développées et maîtrisées.
Aspects plus approfondis de la question
Le doute réside dans l'existence d'une âme ou d'un autre aspect autonome et non déterministe de la personne humaine. L'existence de ces choses et si leur simulation peut être accomplie avec une machine de Turing et pratiquement déployée dans l'architecture de Von Neumann ou une collection d'entre elles n'ont ni été prouvées ni réfutées formellement. Si des éléments autonomes et non déterministes existent chez les gens, alors, même s'ils peuvent être simulés, nous ne pouvons pas nous assurer qu'ils peuvent être réalisés comme autonomes de manière indépendante.
Remettant en question les implications du terme inventé par le MIT , Machine à viande , la notion selon laquelle les humains sont capables d'intention par le fiat n'est pas réfutée, mais une machine de Turing pure ne peut clairement pas avoir l'intention de cette façon.
Ceci est important dans le contexte de la question, car un ordinateur ne peut simuler la frustration que si une intention est contrecarrée par les conditions de vie. Une frustration réelle peut ne pas être possible.
Progrès actuellement connus du public
Un point d'entrée intéressant de l'informatique dans le domaine des émotions humaines est le modèle de mémoire et de raisonnement basé sur l'histoire prétendu par Roger Schank de Yale U dans les années 1990. Bien que la machinerie utilisée par Amazon sous l'emprise de sa capacité toujours croissante à recommander des films d'une manière spécifique à l'acheteur soit confidentielle à Amazon, il faut se demander.
Le commerce électronique peut-il développer le profilage des utilisateurs concernant les livres et les films pour comprendre l'intrigue ou l'arc du développement émotionnel du protagoniste? Peut-il le faire suffisamment pour faire correspondre le visionnement et l'achat des utilisateurs avec d'autres produits? Est-ce ce que Amazon commence à faire? À moins d'un employé d'Amazon contraire à l'éthique, nous ne pouvons que deviner. Certes, ce qui se passe dans le commerce électronique de pointe est allé au-delà de la correspondance des mots ou des expressions ou du suivi des intérêts de certains auteurs, scénaristes, réalisateurs, producteurs et stars.
Si la mémoire et le raisonnement basés sur l'histoire de Roger Schank ont pénétré dans e-Commerse, l'analyse émotionnelle des individus du public est en bonne voie, car l'intrigue et les arcs de développement des protagonistes sont liés dans les climax et la mise en place de climax, tous liés aux états émotionnels. Sinon, une analyse émotionnelle des groupes au sein du public est en cours depuis que les fonctions de relations publiques sont entrées dans les rôles des systèmes informatiques d'entreprise. (Je sais pertinemment que cela s'est produit il y a des décennies.)
Même si les goûts de Facebook, Google et Amazon tentent d'approximer de diverses manières les états émotionnels des individus en temps réel, la mise en correspondance de parcelles de film d'arcs protagonistes et une telle mise en correspondance de motifs et une catégorisation naïve est loin d'être ce qu'un bon conseiller ou un ami ou un membre de la famille auto-réalisé pourrait le faire.
Les systèmes informatiques auxquels le public est exposé ne semblent pas encore développer avec précision la compréhension de l'émotion de l'acheteur. C'est un domaine où même les interfaces les plus progressistes sont encore timides. De plus, l'interface informatique elle-même est toujours aussi sèche qu'elle l'était à la fin du 20e siècle.
À moins de violations de la confidentialité, les capacités de reconnaître, de comparer, d'analyser ou de simuler des émotions dans les laboratoires propriétaires ne sont qu'une question de conjecture.
Interfaces chaudes
Revenant à la question de la froideur générale des interfaces cybernétiques dans une société technologique, la communauté informatique a beaucoup à apprendre. D'une part, les compétences générales des personnes techniques réelles laissent souvent à désirer, donc un changement culturel des équipes de développement à froid vers des équipes culturellement progressistes et chaleureuses pourrait être nécessaire.
En outre, celui qui s'est engagé avec divers appareils PaaS (personnalité en tant que service) tels que Siri, Google Assistant, Alexa, Cortana et Office Assistant de Microsoft, Clippy, pourrait trouver la personnalité du trombone de Clippy plus chaleureuse parmi la liste. Peut-être que le Clippy n'a pas vu un niveau d'acceptation plus élevé en raison de la disparité entre la froideur d'une grille de cellules dans une feuille de calcul et la chaleur tentée du personnage animé était trop, et le petit gars a tendance à se mettre en travers de une partie de l'interface, ce qui peut être gênant. (L'intégration des concepts était médiocre.)
Néanmoins, le style animé de Clippy est destiné à créer une association mentale avec des personnages de dessins animés, ce qui est génial. La conception de personnages de dessins animés et la narration à travers des bandes dessinées et des médias de dessins animés sont un domaine créatif de la technologie qui avait maîtrisé la chaleur générée par ordinateur bien avant que les assistants intelligents ne commencent à apparaître.
On ne peut s'empêcher de penser, après un aperçu général de l'histoire de l'assistant intelligent, que plus le système essaie d'être humain, moins il semble humain. La réponse humaine au contenu émotionnel dans une interface cybernétique est semblable à celle des instruments de musique à correspondance de couleurs ou synthétisés. Si l'on essaie de synthétiser, la synthèse doit être bonne. Si cela ne peut pas être pleinement convaincant, alors il y a plus d'authenticité à inventer quelque chose qui ne prétend pas être quelque chose de réel. Une caricature d'objets réels (comme Bob l'éponge ou Road Runner) évite d'exposer une marge d'erreur inacceptable dans l'imitation de la vie réelle. [1]
Notre sensibilité dans ce domaine est si aiguë que si une personne réelle, travaillant dans un service client, agit trop mécaniquement de telle sorte que nous ayons le moindre doute quant à savoir si nous parlons à un être humain, l'impression est négative et nous voulons raccrocher et rechercher la fonction que nous souhaitons lancer sur le site Internet de l'entreprise.
Il n'est pas clair si la tendance des gens à ressembler davantage à des rouages dans une machine ou si les modèles d'utilisation inciteront les entreprises à concevoir leurs interfaces utilisateur et les mécanismes derrière elles pour dégager quelque chose comme l'hospitalité ou la convivialité. Bien que Jaques Ellul semble avoir raison dans sa proposition selon laquelle la technologie a longtemps conduit l'humanité plutôt que l'inverse, la nature de l'ADN de l'esprit humain forcera peut-être l'humanité à rester remarquablement humaine. Ainsi, l'évolution des professionnels de l'interface cybernétique peut continuer à rechercher le sens et la simulation de la chaleur.
La poursuite problématique, contournable et quelque peu bizarre des tests de Turing perdurera probablement.
Préoccupations concernant les utilisations de la modélisation émotionnelle
Qu'une suite émotionnelle de reconnaissance, de modélisation, d'analyse et de comparaison, évidemment un ensemble d'outils puissant, soit utilisée pour le bien de l'humanité ou à son détriment est une question comme celle de tout autre ensemble d'outils puissant. La psychologie de masse, la science nucléaire, les statistiques et la génétique ont en commun le potentiel d'un grand bien ou d'un grand mal.
Dans le contexte de cette question, la diffusion ou la diffusion d'informations plus ciblées peuvent être qualifiées de propagande, qui n'est pas nécessairement périlleuse. La propagande a été utilisée pour le suffrage des femmes et le long de la voie de l'indépendance américaine de l'Europe. Des éléments de diffusion et de contrôle ciblé ont créé beaucoup de problèmes géopolitiques, un sujet en dehors du champ d'application de ce réseau social, mais pertinent et quelque peu évident, de sorte qu'une mention supplémentaire n'est de toute façon pas nécessaire.
Le profilage individuel peut également être très utile. Cela peut être comme une combinaison des anciennes cartes Dewey Decimal indexées par sujet de bibliothèque en combinaison avec un bibliothécaire compétent lors de la recherche d'informations ou d'articles de divertissement ou d'expression personnelle à emprunter, à louer ou à acheter.
Bien sûr, le profilage en combinaison avec des statistiques peut conduire à la possibilité d'obtenir un contrôle secret sur une masse de personnes, pas seulement pour la maximisation des bénéfices d'une entreprise. Un mégalomane adéquatement induit en erreur ou un ensemble d'entre eux dans une sorte de société secrète pourrait utiliser la modélisation émotionnelle et le profilage complet des utilisateurs pour un large échantillon de la population nationale ou mondiale pour l'injection de systèmes de croyance émotionnellement alimentés. Une telle personne ou un tel groupe pourrait théoriquement réussir à sublimer secrètement et systématiquement la liberté à une sorte de dictature autoritaire virtuelle.
La façon dont la technologie est utilisée est toujours une préoccupation. La transparence et la responsabilité sont des caractéristiques indispensables d'une société.
Tout comme dans les autres domaines de la science et de la technologie mentionnés ci-dessus, c'est à nous qui sommes suffisamment qualifiés pour réaliser ces systèmes d'être des éléments intelligents et actifs au sein des mécanismes de responsabilité de notre société. Qu'une entreprise ou un service gouvernemental mène l'humanité à la perdition est un élément qui peut être jugé lors d'une recherche d'emploi et pendant la période de travail initiale.
Remarques
[1]
C'est peut-être la critique la plus forte de la philosophie du jeu d'imitation de Turing. Les dessins animés, les bandes dessinées et les créatures de science-fiction démontrent que les gens ne semblent pas se soucier si les êtres intelligents peuvent être distingués des humains, et il n'y a aucune preuve que l'intelligence humaine est le seul ou le meilleur exemple d'intelligence.
Dans le même ordre d'idées, les héros sont des représentations de comportements intelligents qui incarnent certains aspects de l'humanité qui ne se produisent pas naturellement à l'état pur comme ils le font avec ces protagonistes. Pourtant, les acteurs sont marqués et commercialisés comme des stars en raison de cette expression idyllique du caractère. Il se peut que les humains n'aiment pas vraiment l'intelligence humaine et essaient constamment de la transcender à travers la fiction, mais n'entraîne qu'une certaine sensibilisation du public qui n'est jamais qu'un fantasme anthropologique.
Même l'IA n'est pas un jeu d'imitation. C'est un jeu de transcendance. Pour cette raison, le test de Turing a une valeur limitée.