Les lois d'Asimov sont-elles viciées par leur conception, ou sont-elles réalisables dans la pratique?

Les célèbres trois lois de la robotique d' Isaac Asimov sont nées dans le contexte des histoires de science-fiction d'Asimov. Dans ces histoires, les trois lois servent de mesure de sécurité, afin d'éviter que des situations intempestives ou manipulées n'explosent en ravages.

Plus souvent qu'autrement, les récits d'Asimov trouveraient un moyen de les briser, amenant l'écrivain à apporter plusieurs modifications aux lois elles-mêmes. Par exemple, dans certaines de ses histoires, il a modifié la première loi , ajouté une quatrième loi (ou Zeroth) , ou même supprimé toutes les lois .

Cependant, il est facile d'affirmer que, dans la culture populaire, et même dans le domaine de la recherche sur l'IA elle-même, les lois de la robotique sont prises très au sérieux. Ignorant le problème secondaire des interprétations différentes, subjectives et mutuellement exclusives des lois, existe-t-il des arguments prouvant que les lois elles-mêmes sont intrinsèquement défectueuses par leur conception, ou, sinon, suffisamment solides pour être utilisées dans la réalité? De même, un ensemble heuristique de sécurité meilleur et plus strict est-il conçu à cet effet?

Les lois d'Asimov ne sont pas assez fortes pour être utilisées dans la pratique. La force n'est même pas une considération, si l'on considère que, puisqu'ils sont écrits en anglais, les mots doivent d'abord être interprétés de manière subjective pour avoir un sens. Vous pouvez trouver une bonne discussion à ce sujet ici .

Pour transcrire un extrait:

Comment définissez-vous ces choses? Comment définissez-vous «humain», sans avoir à prendre d'abord position sur presque tous les problèmes. Et si "humain" n'était pas assez difficile, vous devez alors définir "mal", et vous avez à nouveau le même problème. Presque toutes les définitions sans ambiguïté vraiment solides que vous donnez à ces mots - qui ne reposent pas sur l'intuition humaine - entraînent des bizarreries de philosophie étranges, ce qui conduit votre IA à faire quelque chose que vous ne voulez vraiment pas qu'elle fasse.

On peut facilement imaginer qu'Asimov était suffisamment intelligent pour le savoir et était plus intéressé par l'écriture d'histoires que par la conception de protocoles de contrôle de l'IA réels.

Dans le roman Neuromancer , il a été suggéré que les IA pourraient éventuellement servir de contrôles les uns contre les autres. La singularité imminente de Ray Kurzweil , ou la possibilité d'IGI hyperintelligents autrement, pourrait ne pas laisser beaucoup de possibilité aux humains de contrôler les IA, laissant la régulation par les pairs comme la seule possibilité réalisable.

Il convient de noter qu'Eliezer Yudkowsky et d'autres ont mené une expérience dans laquelle Yudkowsky a joué le rôle d'une IA superintelligente avec la capacité de parler, mais aucune autre connexion en dehors d'une boîte verrouillée. Les challengers devaient simplement garder l'IA dans la boîte à tout prix. Yudkowsky s'est échappé les deux fois.

Asimov a fait les trois lois spécifiquement pour prouver qu'aucune des trois lois n'est suffisante, même si elles semblent raisonnables au premier abord. Je connais un gars qui le connaissait et il l'a confirmé.

Considérez la première loi d'Asimov de la robotique:

Un robot ne peut pas blesser un être humain ou, par inaction, permettre à un être humain de se blesser.

Cette loi est déjà problématique, si l'on tient compte des voitures autonomes.

Quel est le problème ici, demandez-vous? Eh bien, vous serez probablement familier avec l'expérience de pensée classique en éthique connue sous le nom de problème du chariot . La forme générale du problème est la suivante:

Le chariot se dirige directement vers eux. Vous vous tenez à une certaine distance dans la gare de triage, à côté d'un levier. Si vous tirez sur ce levier, le chariot passera à un autre ensemble de rails. Cependant, vous remarquez qu'il y a une personne sur la voie latérale. Vous avez deux options: (1) Ne faites rien, et le chariot tue les cinq personnes sur la piste principale. (2) Tirez le levier, en détournant le chariot sur la voie latérale où il tuera une personne. Quel est le bon choix?

source: Wikipedia

Les voitures autonomes devront en fait implémenter des variations réelles du problème du chariot, ce qui signifie essentiellement que les voitures autonomes doivent être programmées pour tuer les êtres humains .

Bien sûr, cela ne signifie pas que TOUS les robots devront être programmés pour tuer, mais les voitures autonomes sont un bon exemple d'un type de robot qui le fera.