Utilisons un test simple basé sur le bon sens: à quelle fréquence voyez-vous un être humain résoudre des problèmes nécessitant l'utilisation de la raison lorsqu'il est inconscient? Oui, vous pouvez trouver des exemples de génies comme Ramanujan résolvant des problèmes complexes pendant ou après un état de rêve, mais ceux-ci impliquent une conscience partielle. Vous ne voyez pas des gars comme Einstein proposer la théorie de la relativité dans le coma; les Pères fondateurs n'ont pas écrit la Déclaration d'indépendance pendant leur sommeil; en fait, vous ne pouvez même pas trouver d'exemples de femmes au foyer qui ont dressé leur liste de courses pour la semaine pendant un sommeil profond par ondes delta. Cela repose sur une définition stricte de l'intelligence, nécessitant l'utilisation de la raison; personne ne dit: "Cette mouche est intelligente" ou "cet écureuil est intelligent" précisément parce qu'aucun des deux n'est capable d'utiliser la raison. C'est une barre très élevée pour l'IA, mais c'est la définition de bon sens utilisée par les gens ordinaires pour des raisons pratiques, dans le langage courant. De même, dans la pratique, chacun suppose que la conscience est nécessaire à l'exercice de ce type d'intelligence.
Inversement, nous pouvons trouver un autre critère basé sur le bon sens pour juger les objections à cet argument, en particulier le solipsiste, basé sur 3 éléments: 1) l'aspect pratique; 2) l'effet des objections sur ceux qui les tiennent sincèrement; et 3) l'effet que les actions fondées sur ces croyances ont sur les autres. Cela va me prendre plusieurs paragraphes pour faire ce cas, mais la longueur est nécessaire si je veux faire le cas de manière complète et approfondie. Il est vrai que nous ne pouvons pas prouver qu'un autre être humain possède la conscience, si notre norme est une preuve absolue. En fait, nous ne pouvons rien prouver de façon absolue; il y a toujours place pour une objection, aussi ridicule ou futile soit-elle. Comme certains philosophes l'ont souligné, peut-être que toute la réalité telle que nous la connaissons n'est qu'un rêve ou le produit d'une longue conspiration impliquée comme l'intrigue du film de Jim Carrey The Truman Show. La clé pour répondre à de telles objections est qu'elles nécessitent une régression infinie d'objections de plus en plus intenables, dont la probabilité plonge à chaque étape supplémentaire requise pour justifier de tels doutes déraisonnables; Je me suis toujours demandé si nous pouvions trouver une "métrique de ridicule" pour l'apprentissage automatique basée sur la cardinalité de telles objections (ou le caractère délicat des ensembles flous). Si nous permettions aux critiques de mettre le pied dans la porte avec toutes sortes d’objections déraisonnables, il serait impossible de clore tout débat. La race humaine serait paralysée dans l'inaction car rien ne serait décidable; mais comme le groupe de rock Rush l'a souligné une fois, "Si vous choisissez de ne pas décider, vous avez toujours fait un choix." À un moment donné, nous devons appliquer un test pour décider de telles choses, même en l'absence de preuve absolue; le refus d'appliquer un test constitue également un choix. Régler un argument de ce genre est comme un jeu du jeu chinois Go - une fois que l'autre joueur est entouré et n'a plus de mouvement à faire, le jeu est terminé; si le témoignage d'une personne a démystifié et qu'elle n'a plus de justification, nous pouvons conclure qu'elle agit de manière déraisonnable. Il y a des gens qui courent en clamant que l'Holocauste n'a jamais eu lieu, ou la Flat Earth Society, etc., mais leur existence ne devrait pas et ne nous empêche pas de prendre des mesures contraires à leurs idées. Nous pouvons réfuter les objections de manivelles comme la Flat Earth Society au-delà de tout doute raisonnable, car au final, elles ne peuvent tout simplement pas répondre à toutes nos réfutations. Je suis heureux que les qualia et les zombies philosophiques aient été évoqués parce qu'ils suscitent des conversations intéressantes et alimentent la réflexion, mais le solipsisme est aussi rarement utilisé que les idées de la Flat Earth Society précisément parce que les preuves incomplètes que nous Nous pouvons réfuter les objections de manivelles comme la Flat Earth Society au-delà de tout doute raisonnable, car au final, elles ne peuvent tout simplement pas répondre à toutes nos réfutations. Je suis heureux que les qualia et les zombies philosophiques aient été évoqués parce qu'ils suscitent des conversations intéressantes et alimentent la réflexion, mais le solipsisme est aussi rarement utilisé que les idées de la Flat Earth Society précisément parce que les preuves incomplètes que nous Nous pouvons réfuter les objections de manivelles comme la Flat Earth Society au-delà de tout doute raisonnable, car au final, elles ne peuvent tout simplement pas répondre à toutes nos réfutations. Je suis heureux que les qualia et les zombies philosophiques aient été évoqués parce qu'ils suscitent des conversations intéressantes et alimentent la réflexion, mais le solipsisme est aussi rarement utilisé que les idées de la Flat Earth Society précisément parce que les preuves incomplètes que nousn'ont court contre elle.
Comme le souligne GK Chesterton (alias "L'apôtre du bon sens") dans son classique orthodoxie, le doute radical du genre que beaucoup de philosophes classiques prêchaient n'est pas un chemin vers la sagesse mais vers la folie; une fois que nous sortons de tout doute raisonnable, nous finissons par agir de manière déraisonnable. Il dit qu'en l'absence de preuve absolue, nous pouvons recourir à une autre forme de preuve secondaire: si la philosophie d'une personne conduit un homme à Hanwell, la tristement célèbre institution psychiatrique britannique. Chesterton démontre que lorsque les gens agissent réellement sur des idées comme le solipsisme (plutôt que de simplement les débattre de manière pédante dans une salle de classe couverte de lierre), ils deviennent fous. L'argument du Philosophical Zombie est proche du solipsisme, qui est en fait l'un des diagnostics critères pour certaines formes de schizophrénie. La déshumanisation qui se produit lorsqu'un doute radical est appliqué aux qualia est également intimement liée au comportement sociopathique, Bien que GKC ne cite pas directement son exemple effrayant, René Descartes en était lui-même la preuve vivante. C'était un brillant mathématicien qui est toujours acclamé pour avoir douté de tout sauf de sa propre existence, avec la célèbre maxime "Je pense, donc je suis". Mais Descartes avait également l'habitude de porter un mannequin de sa sœur décédée avec lui dans les cafés européens, où on pouvait le voir discuter avec lui. L'essentiel de tout cela est que nous pouvons juger de la valeur d'une idée par la façon dont elle affecte le bien-être du croyant, ou par la façon dont elles affectent à leur tour les autres par des choix éthiques fondés sur ces croyances. Lorsque les gens agissent réellement sur un doute radical du type de celui exprimé dans le solipsisme et le déni des qualia communs, cela a souvent un effet néfaste sur eux et sur les autres avec lesquels ils entrent en contact. C'était un brillant mathématicien qui est toujours acclamé pour avoir douté de tout sauf de sa propre existence, avec la célèbre maxime "Je pense, donc je suis". Mais Descartes avait également l'habitude de porter un mannequin de sa sœur décédée avec lui dans les cafés européens, où on pouvait le voir discuter avec lui. L'essentiel de tout cela est que nous pouvons juger de la valeur d'une idée par la façon dont elle affecte le bien-être du croyant, ou par la façon dont elles affectent à leur tour les autres par des choix éthiques fondés sur ces croyances. Lorsque les gens agissent réellement sur un doute radical du type de celui exprimé dans le solipsisme et le déni des qualia communs, cela a souvent un effet néfaste sur eux et sur les autres avec lesquels ils entrent en contact. C'était un brillant mathématicien qui est toujours acclamé pour avoir douté de tout sauf de sa propre existence, avec la célèbre maxime "Je pense, donc je suis". Mais Descartes avait également l'habitude de porter un mannequin de sa sœur décédée avec lui dans les cafés européens, où on pouvait le voir discuter avec lui. L'essentiel de tout cela est que nous pouvons juger de la valeur d'une idée par la façon dont elle affecte le bien-être du croyant, ou par la façon dont elles affectent à leur tour les autres par des choix éthiques fondés sur ces croyances. Lorsque les gens agissent réellement sur un doute radical du type de celui exprimé dans le solipsisme et le déni des qualia communs, cela a souvent un effet néfaste sur eux et sur les autres avec lesquels ils entrent en contact. Mais Descartes avait également l'habitude de porter un mannequin de sa sœur décédée avec lui dans les cafés européens, où on pouvait le voir discuter avec lui. L'essentiel de tout cela est que nous pouvons juger de la valeur d'une idée par la façon dont elle affecte le bien-être du croyant, ou par la façon dont elles affectent à leur tour les autres par des choix éthiques fondés sur ces croyances. Lorsque les gens agissent réellement sur un doute radical du type de celui exprimé dans le solipsisme et le déni des qualia communs, cela a souvent un effet néfaste sur eux et sur les autres avec lesquels ils entrent en contact. Mais Descartes avait également l'habitude de porter un mannequin de sa sœur décédée avec lui dans les cafés européens, où on pouvait le voir discuter avec lui. L'essentiel de tout cela est que nous pouvons juger de la valeur d'une idée par la façon dont elle affecte le bien-être du croyant, ou par la façon dont elles affectent à leur tour les autres par des choix éthiques fondés sur ces croyances. Lorsque les gens agissent réellement sur un doute radical du type de celui exprimé dans le solipsisme et le déni des qualia communs, cela a souvent un effet néfaste sur eux et sur les autres avec lesquels ils entrent en contact.
De manière détournée, la communauté de l'IA fait également face à un risque assez sérieux - peut-être une tentation permanente - de commettre l'erreur inverse, d'attribuer des qualités, une conscience et similaires communes à ses produits d'apprentissage automatique sans preuve suffisante. J'ai récemment entendu un cas présenté pour des motifs logiques scandaleusement mauvais par des universitaires très respectés selon lesquels les plantes possèdent une "intelligence", basée sur des définitions très faibles et une confusion claire avec l'auto-organisation. Nous ne pouvons pas fournir la preuve absolue qu'un rocher n'a pas d'intelligence, ce qui revient à l'ancien problème de réfuter un négatif. Heureusement, peu d'hommes agissent actuellement sur de telles croyances, car lorsqu'ils le font, ils finissent par perdre la tête. Si nous prenons ces arguments au sérieux, nous pourrions voir des lois adoptées pour protéger le genre de Pet Rocks qui étaient populaires dans le ' 70s (je suis toujours bouleversé que le mien a été volé LOL). Il serait cependant beaucoup plus facile de commettre la même erreur en attribuant la conscience, l'intelligence et d'autres qualités similaires à une machine à la pointe de la technologie, en raison des vœux pieux, de l'orgueil, des pouvoirs élevés des inventeurs, de l'influence de la science-fiction et de l'histoire d'amour moderne avec la technologie. À l'avenir, je ne doute pas que nous aurons Cargo Cult of AI - peut-être légalement protégé comme une espèce d'espèce en voie de disparition, avec des droits civils, mais n'ayant pas plus de conscience, d'âme ou d'intelligence réelle qu'un rocher. Ne me citez pas là-dessus, mais je crois que Rod Serling a déjà écrit une histoire à cet effet. l'intelligence et d'autres qualités similaires à une machine à la pointe de la technologie, en raison des vœux pieux, de l'orgueil, des hautes références des inventeurs, de l'influence de la science-fiction et de l'histoire d'amour moderne avec la technologie. À l'avenir, je ne doute pas que nous aurons Cargo Cult of AI - peut-être légalement protégé comme une espèce d'espèce menacée, avec des droits civils, mais n'ayant pas plus de conscience, d'âme ou d'intelligence réelle qu'un rocher. Ne me citez pas là-dessus, mais je crois que Rod Serling a déjà écrit une histoire à cet effet. l'intelligence et d'autres qualités similaires à une machine à la pointe de la technologie, en raison des vœux pieux, de l'orgueil, des références élevées des inventeurs, de l'influence de la science-fiction et de l'histoire d'amour moderne avec la technologie. À l'avenir, je ne doute pas que nous aurons Cargo Cult of AI - peut-être légalement protégé comme une espèce d'espèce en voie de disparition, avec des droits civils, mais n'ayant pas plus de conscience, d'âme ou d'intelligence réelle qu'un rocher. Ne me citez pas là-dessus, mais je crois que Rod Serling a déjà écrit une histoire à cet effet. - peut-être légalement protégé comme une espèce d'espèce menacée, avec des droits civils, mais n'ayant pas plus de conscience, d'âme ou d'intelligence réelle qu'un rocher. Ne me citez pas là-dessus, mais je crois que Rod Serling a déjà écrit une histoire à cet effet. - peut-être légalement protégé comme une espèce d'espèce menacée, avec des droits civils, mais n'ayant pas plus de conscience, d'âme ou d'intelligence réelle qu'un rocher. Ne me citez pas là-dessus, mais je crois que Rod Serling a déjà écrit une histoire à cet effet.
La meilleure façon d'éviter ce sort est de s'en tenir aux interprétations et définitions de bon sens de ces choses, que nous gardons en arrière en grande partie parce qu'elles placent une barre très haute pour l'IA que nous ne pourrons peut-être jamais dépasser au cours de notre vie , si jamais. Peut-être que l'IA n'est même pas possible logiquement, à n'importe quel niveau de technologie; Je rappelle quelques preuves qui peuvent être interprétées à cet effet. Ces normes élevées mais raisonnables peuvent être de plus en plus difficiles à respecter si Chesterton et ses collègues comme Hilaire Belloc et Arnold Lunn avaient raison dans leur évaluation que l'utilisation de la raison s'est en fait effondrée dans la civilisation occidentale, au moins aussi loin que les Lumières; Le livre de Lunn de 1931, The Flight from Reason, est un classique à cet égard et n'a pas encore été réfuté. Cette tendance historique est un vaste sujet en soi - mais il suffit de dire que le déni de raison et l'obsession de la technologie sont tous deux directement pertinents de manière évidente dans le domaine de l'IA. Si la fuite de la raison est toujours en cours, alors nous seront de plus en plus tentés de recourir à des objections irréfléchies et faciles afin de rétrograder l'utilisation de la raison et des qualités indispensables comme la conscience dans nos définitions de l'IA, mais proposer des critères de plus en plus faibles pour le prouver; simultanément, notre technologie continuera de s'améliorer, renforçant ainsi le côté «artificiel» de l'intelligence artificielle. alors nous serons de plus en plus tentés de recourir à des objections irréfléchies et faciles pour rétrograder l'usage de la raison et des qualités indispensables comme la conscience dans nos définitions de l'IA, mais trouver des critères de plus en plus faibles pour le prouver; simultanément, notre technologie continuera de s'améliorer, renforçant ainsi le côté «artificiel» de l'intelligence artificielle. alors nous serons de plus en plus tentés de recourir à des objections irréfléchies et faciles pour rétrograder l'usage de la raison et des qualités indispensables comme la conscience dans nos définitions de l'IA, mais trouver des critères de plus en plus faibles pour le prouver; simultanément, notre technologie continuera de s'améliorer, renforçant ainsi le côté «artificiel» de l'intelligence artificielle.
Ne vous méprenez pas: si je ne pensais pas que nous pouvions faire des choses vraiment passionnantes avec l'IA, je ne serais pas là. Mais la plupart d'entre eux peuvent être atteints sans jamais reproduire l'intelligence humaine réelle, en résolvant des classes entières de problèmes tangentiels auxquels les humains ont du mal à penser, mais qui ne nécessitent pas la conscience ou l'utilisation de la raison qui caractérise l'intelligence humaine. Les capacités de reconnaissance d'images des réseaux de neurones convolutifs en sont un exemple, par exemple; si nous voulons l'intelligence humaine, nous pouvons toujours la fabriquer de la manière la plus simple, la plus économique et la plus éprouvée, en ayant des bébés. Peut-être que ces formes tangentielles d'IA devraient nous suffire pour l'instant. Nous ne pouvons pas injecter l'utilisation de la raison dans nos machines si nous n'en possédons pas suffisamment nous-mêmes pour décider si la raison est nécessaire pour l'IA, ou même de discerner en quoi il consiste. Nous ne pouvons pas concevoir ou déprécier la conscience pour l'IA jusqu'à ce que nous soyons conscients de sa signification. Je parierais cependant que tout le monde qui lit ce fil et évalue les réponses intelligentes le fait dans un état conscient. Cela en soi devrait répondre à notre question de façon satisfaisante pour l'instant.
