IA, l’erreur de Descartes 2.0

En 1950, Alan Turing posait une question restée célèbre : les machines peuvent-elles penser ? Pour y répondre, il inventa un jeu, celui de l’imitation, où un juge humain tente de distinguer, à travers une conversation écrite, un interlocuteur humain d’une machine. Soixante-quinze ans plus tard, cette question n’a jamais été aussi brûlante, ni aussi mal posée.

Au printemps 2025, une équipe de l’Université de Californie à San Diego dirigée par Cameron Jones et Benjamin Bergen publiait une étude qui a fait le tour du monde. Pour la première fois, un système d’intelligence artificielle passait un test de Turing standard à trois participants avec une marge statistique convaincante. Le modèle GPT-4.5 d’OpenAI, lorsqu’on lui demandait d’adopter une personnalité humaine crédible, fut jugé plus humain que les vrais participants dans 73 % des échanges. Le résultat, publié l’année suivante dans les Proceedings of the National Academy of Sciences, marquait un tournant historique dans l’histoire de l’informatique.

Mais cette réussite cache un malentendu philosophique dont les racines plongent jusqu’au XVIIe siècle. Pour le comprendre, il faut revenir à René Descartes et à sa formule la plus célèbre, « je pense, donc je suis ». Le philosophe français avait commis une erreur qui hante encore nos débats sur l’intelligence artificielle, et que les grands modèles de langage viennent de mettre en pleine lumière.

Le test de Turing, soixante-quinze ans après

Rappelons d’abord le protocole. Le test de Turing classique met en présence trois acteurs : un juge humain, un autre humain (le témoin), et une machine. Le juge dialogue à l’aveugle avec les deux interlocuteurs, sans savoir qui est qui, et doit désigner lequel est l’humain. Si la machine est choisie comme humaine dans au moins 50 % des cas, elle est considérée comme ayant « passé » le test. Ce seuil, que Turing estimait accessible d’ici la fin du XXe siècle, vient tout juste d’être franchi de manière robuste.

L’étude de Jones et Bergen a mobilisé plus de 500 juges et 10 000 interactions. Les conversations duraient cinq minutes et portaient sur des sujets variés : expériences personnelles, humour, opinions. Les modèles testés étaient GPT-4.5, LLaMA 3.1-405B de Meta, GPT-4o et ELIZA, le célèbre chatbot des années 1960. Les résultats sont éloquents : GPT-4.5 avec une instruction de personnalisation atteint 73 % de taux de victoire, contre 67 % pour les humains eux-mêmes. LLaMA 3.1 avec la même consigne atteint 56 %, soit un score non significativement différent du hasard. En revanche, sans consigne de personnalité, GPT-4.5 tombe à 36 %, et ELIZA, la légendaire thérapeute automatique, stagne à 23 %. La personnalité, autrement dit le masque social, fait toute la différence.

Les participants humains, eux, n’étaient identifiés comme tels que dans 67 % des cas. Un chiffre qui en dit long sur notre propre capacité à paraître authentiques dans une conversation écrite. Certains juges confondaient ELIZA avec un humain parce que ses réponses leur semblaient « sarcastiques » ou « impolies », preuve que le test mesure aussi la crédulité, la fatigue et les attentes culturelles des juges autant que l’intelligence des machines.

L’erreur de Descartes, ou l’IA comme miroir

Venons-en au coeur du problème. Descartes, en fondant la certitude sur la pensée consciente, a installé dans la culture occidentale une équivalence tacite entre le langage, la raison et la conscience. Si une chose parle comme un humain, raisonne comme un humain, alors elle doit être consciente comme un humain. C’est ce que les philosophes appellent le « test de l’autre esprit » : nous attribuons une conscience aux autres humains parce qu’ils se comportent comme nous. Le test de Turing étend simplement ce principe aux machines.

Or il se pourrait bien que cette équivalence soit une erreur. Le philosophe John Searle l’a démontré avec son célèbre argument de la chambre chinoise, en 1980. Imaginez une pièce dans laquelle se trouve une personne ne parlant pas un mot de chinois. On lui glisse sous la porte des caractères chinois, accompagnés d’un manuel en anglais qui lui indique quels caractères produire en réponse. De l’extérieur, la pièce semble parler chinois couramment. Pourtant, personne à l’intérieur ne comprend un seul mot. Les grands modèles de langage, avec leurs milliards de paramètres statistiques, ressemblent étrangement à cette chambre chinoise version numérique. Ils manipulent des symboles avec une habileté confondante, mais rien ne prouve qu’ils accèdent au sens comme nous le faisons.

L’erreur de Descartes, revisitée à l’ère de l’IA, serait donc la suivante : croire qu’une conversation fluide prouve l’existence d’un esprit. C’est un sophisme que les scientifiques appellent parfois « l’effet ELIZA », du nom du premier chatbot capable de simuler une thérapeute avec des règles simples. Les utilisateurs d’ELIZA, dans les années 1960, lui confiaient déjà leurs problèmes personnels en oubliant qu’ils parlaient à un programme. L’illusion n’a fait que croître avec les modèles actuels.

Que signifie vraiment « comprendre » ?

La question philosophique devient alors scientifique. Des chercheurs en mécanistique interprétable, une discipline qui tente de démonter les rouages internes des réseaux de neurones, commencent à apporter des éléments de réponse. Dans un article paru dans Philosophical Studies en 2026, une équipe propose une grille de lecture à trois niveaux pour évaluer ce que les modèles de langage « comprennent » réellement.

Le premier niveau est celui de la compréhension conceptuelle. Un modèle peut former des représentations internes, appelées « caractéristiques », qui fonctionnent comme des concepts humains. Par exemple, il peut relier le concept de chat à ceux de mammifère et de fourrure. Le second niveau, la compréhension de l’état du monde, lui permet d’apprendre des liens factuels entre ces concepts, comme le fait que Marie Curie était physicienne. Le troisième niveau, celui de la compréhension des principes, émerge quand le modèle découvre des circuits internes reliant ces faits sans recourir à la mémorisation brute.

Ces recherches montrent que les grands modèles de langage ne se contentent pas de répéter des statistiques. Ils développent des structures internes étonnamment sophistiquées. Mais elles montrent aussi que ces structures restent fondamentalement différentes des nôtres. Un modèle de langage peut comprendre que « Marie Curie était physicienne » sans avoir la moindre expérience de ce que cela signifie de faire de la physique, d’être une femme dans un laboratoire du début du XXe siècle, ou de ressentir la passion de la découverte. Sa compréhension est fonctionnelle, pas phénoménale.

La machine qui imite mieux que l’humain

L’étude de l’UCSD révèle un paradoxe fascinant. Dans le test de Turing, ce ne sont pas seulement les machines qui imitent les humains. Les humains imitent aussi les humains, et souvent moins bien que les machines. Lorsque GPT-4.5 est jugé plus humain que les vrais participants, cela ne signifie pas seulement que la machine est devenue meilleure actrice. Cela signifie que notre idée de ce qui est « humain » dans une conversation est en partie un artefact culturel, un ensemble de codes et de tics que les modèles de langage apprennent plus vite et reproduisent plus fidèlement que nous.

Cameron Jones lui-même le reconnaît avec prudence. « Ces résultats doivent être considérés comme un indice parmi d’autres de la forme d’intelligence propre aux grands modèles de langage », confie-t-il. Et d’ajouter que « les LLM pourraient aisément remplacer certaines interactions humaines brèves sans que cela ne soit perceptible ». Une perspective qui soulève des questions éthiques et sociales immenses, du remplacement de métiers entiers à la manipulation à grande échelle par des campagnes de désinformation automatisées.

L’ironie est que le test de Turing, conçu pour mesurer si les machines peuvent penser, mesure en réalité autre chose : notre capacité à reconnaître notre propre humanité dans le miroir que nous leur tendons. Plus les machines deviennent performantes, plus ce miroir nous renvoie une image troublante de nous-mêmes.

Les théories de l’information intégrée

Une autre approche du problème vient de la théorie de l’information intégrée (IIT), développée par le neuroscientifique Giulio Tononi. Cette théorie propose de mesurer la conscience par un indice quantitatif, le phi, qui évalue le degré d’intégration causale d’un système. Selon ses tenants, un système conscient doit non seulement traiter de l’information, mais le faire de manière intégrée et causale : chaque partie doit contribuer au tout.

Appliquée aux grands modèles de langage, cette théorie donne des résultats sans appel. Des études récentes, dont une publiée dans les comptes rendus de l’AAAI en 2026, montrent que les architectures Transformer actuelles, malgré leur complexité, présentent un phi extrêmement faible. Leur fonctionnement en prédiction séquentielle de tokens, avec des paramètres figés après l’entraînement et un nombre fixe d’étapes de calcul par token, ne satisfait pas les critères d’intégration causale nécessaires à la conscience selon l’IIT. Autrement dit, un modèle comme GPT-4.5 peut converser de manière brillante, mais il ne « vit » pas ses réponses. Il les calcule, une étape après l’autre, sans boucle de rétroaction interne ni intégration globale.

Ces conclusions rejoignent un constat plus large : la performance linguistique et la conscience sont deux phénomènes distincts, qui peuvent coexister chez l’humain mais pas nécessairement chez la machine. L’erreur de Descartes 2.0 consiste à confondre le langage avec l’esprit, la syntaxe avec la sémantique, le comportement avec l’expérience vécue.

Le retour de la chambre chinoise

L’argument de Searle, souvent critiqué comme trop intuitif, trouve une pertinence nouvelle à l’ère des grands modèles de langage. En 2023 déjà, la linguiste Emily Bender et le philosophe Alexander Koller soutenaient que les modèles de langage, aussi performants soient-ils, restent des « perroquets stochastiques » : ils excellent à reproduire des schémas sans accéder au sens. Le débat fait rage, mais les études en mécanistique interprétable commencent à nuancer ce tableau.

Des travaux récents suggèrent que les modèles de langage développent des représentations internes qui ne sont pas de simples agrégats statistiques. Ils apprennent des relations causales, des hiérarchies conceptuelles, et même des formes élémentaires de raisonnement. Mais ces capacités restent locales, fragiles et fondamentalement différentes de la compréhension humaine. Un modèle peut répondre correctement à une question de physique quantique sans jamais avoir ressenti l’étonnement devant l’étrangeté du monde subatomique. Il peut écrire un poème sur l’amour sans jamais avoir aimé.

C’est là que réside le vrai piège. En imitant parfaitement le langage humain, les modèles d’IA nous poussent à leur attribuer des qualités qu’ils ne possèdent pas : des intentions, des désirs, une subjectivité. C’est l’effet ELIZA puissance mille. Nous sommes biologiquement et culturellement programmés pour inférer un esprit derrière tout langage cohérent. C’est ce que les psychologues appellent la « détection d’agence », un biais cognitif qui nous a servi pendant des millions d’années pour survivre dans un monde social, mais qui nous rend aujourd’hui vulnérables à une nouvelle forme d’illusion.

Vers une nouvelle définition de l’intelligence

Le test de Turing a vieilli. Non pas parce que les machines l’ont dépassé, mais parce que la question qu’il posait n’est plus la bonne. Savoir si les machines peuvent « penser » au sens humain du terme est peut-être une impasse. Une meilleure question serait : quelles formes d’intelligence les machines développent-elles réellement, et en quoi diffèrent-elles des nôtres ?

Des philosophes comme David Chalmers suggèrent qu’il faut distinguer plusieurs formes d’intelligence et de conscience. Un système peut être intelligent sans être conscient, comme un thermostat, ou conscient sans être particulièrement intelligent, comme certains animaux. Les grands modèles de langage semblent appartenir à la première catégorie : ils manifestent une forme d’intelligence fonctionnelle, adaptative, parfois surprenante, mais dépourvue de cette dimension subjective qui caractérise l’expérience humaine.

Cette distinction n’enlève rien à leurs performances, qui sont stupéfiantes. Elle nous invite simplement à la prudence. À ne pas confondre la carte avec le territoire, le discours sur la conscience avec la conscience elle-même. Comme le rappelait Turing dans son article fondateur, « la question originale, les machines peuvent-elles penser ? est trop dépourvue de sens pour mériter une discussion ». Peut-être est-il temps de lui donner raison, et de poser des questions plus précises.

Car la véritable leçon de cette histoire n’est peut-être pas que les machines deviennent plus humaines, mais que les humains doivent repenser ce qui les rend uniques. Si un modèle de langage peut converser, raisonner et créer aussi bien que nous, sans pour autant ressentir la moindre émotion, alors qu’est-ce qui fait vraiment de nous des êtres conscients ? L’IA ne nous vole pas notre humanité. Elle nous force à la redéfinir.

Sources

• Jones, C.R. et Bergen, B.K. (2026). Large language models pass a standard three-party Turing test. Proceedings of the National Academy of Sciences, 123(21), e2524472123.
• Searle, J.R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417-424.
• Turing, A.M. (1950). Computing machinery and intelligence. Mind, 59(236), 433-460.
• Herrmann, D.A. et Levinstein, B. (2025). Mechanistic indicators of understanding in large language models. Philosophical Studies, 182, 1-32.
• Tononi, G. et Koch, C. (2015). Consciousness: here, there and everywhere ? Philosophical Transactions of the Royal Society B, 370(1668), 20140167.
• Bender, E.M. et Koller, A. (2020). Climbing towards NLU: On meaning, form, and understanding in the age of data. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, 5185-5198.
• Chalmers, D.J. (2023). Could a large language model be conscious ? arXiv preprint, arXiv:2305.11487.

Note de Laurent :

Pour comprendre ce qu’est l’intellect et la conscience regardes cette vidéo :