Pourquoi une IA ne peut pas vraiment nous questionner de manière socratique
Des chercheurs de l'ENS et de l'Inria, interrogés par Libération début octobre, décrivaient ce que produisent désormais les modèles d'IA dits "de raisonnement" : des chaînes de raisonnement où des hypothèses sont soumises à la critique, où un problème complexe est décomposé en unités plus simples, où les interprétations d'un même sujet sont multipliées. J'ai eu l'impression de parcourir une table des matières de l'histoire de la philosophie, ce qui explique peut-être pourquoi ces outils sont des interlocuteurs si stimulants pour qui pratique la philosophie, au point que j'en ai fait les partenaires d'entraînement d'un séminaire que j'anime en novembre, et dont je dirai un mot à la fin.
Il existe pourtant un geste que ces systèmes accomplissent mal, celui par lequel la philosophie a commencé : le questionnement, non pas la question qui cherche une information, mais celle que Socrate tenait sur ses interlocuteurs jusqu'à ce qu'ils avouent ne plus savoir. Comprendre pourquoi ce geste résiste suppose de chercher ce qui lui manque, et ce manque pourrait bien ne pas tenir à la machine.
Les gestes du philosophe
Soumettre ses hypothèses à la critique, c'est le mouvement que Hegel décrit dans la Phénoménologie de l'esprit, où la conscience ne progresse qu'en découvrant dans chaque affirmation la limite qui la nie. Décomposer une difficulté en autant de parcelles qu'il se pourrait, c'est le deuxième précepte du Discours de la méthode. Multiplier les interprétations, c'est ce que Nietzsche appelle, dans la Généalogie de la morale, la "seule objectivité possible", celle qui sait employer sur une même chose le plus grand nombre d'yeux différents.
Le dialogue socratique lui-même s'y prête : lorsqu'un interlocuteur s'aperçoit qu'il est dans une impasse, on remonte à l'embranchement précédent pour emprunter l'autre branche, ce qui décrit presque mot pour mot une recherche arborescente avec retour en arrière, technique sur laquelle reposent justement les modèles de raisonnement.
Or ces systèmes questionnent mal. Une étude publiée cette année sur des tuteurs socratiques automatisés relevait que plus de la moitié des dialogues ne comportaient aucune mise en cause explicite de l'élève. Leurs questions sont souvent chargées de présupposés qui affirment autant qu'ils interrogent, et elles ne tiennent pas dans la durée sur une même personne afin de faire la « dissertation de son être » comme nous le faisons en pratique philosophique. Si les procédures du raisonnement sont reproductibles et que le questionnement échoue pourtant, c'est que questionner quelqu'un n'est pas un raisonnement comme un autre.
Le rythme de celui qui questionne
Socrate ne résout pas un problème qu'on lui soumet, il interroge quelqu'un, qui devient vite lui-même le problème du dialogue : il répond à côté, se contredit, s'agace. Questionner suppose alors d'interrompre, de relancer, de laisser venir, bref d'avoir un rythme. On y verrait volontiers la limite d'un échange par tours de parole, mais des modèles vocaux capables d'écouter et de parler à la fois existent déjà, comme Moshi, de Kyutai, et les systèmes commerciaux privilégient l'écoute polie à l'interruption franche, ce qui relève d'un choix de conception plutôt que d'une impossibilité.
Le rythme n'est d'ailleurs pas un minutage, ni une danse harmonieuse, car le questionnement socratique produit souvent l'inverse d'une harmonie : Ménon compare Socrate à une torpille, Calliclès s'emporte, Euthyphron s'enfuit. Le sens du rythme serait plutôt de percevoir le moment où le silence de l'autre cesse d'être un silence de recherche pour devenir un silence de mauvaise foi, où l'on fait mine de chercher alors qu'il vaudrait mieux dire « je ne sais pas », ce mot encore plus difficile à prononcer pour la machine que pour son utilisateur. Kant faisait du temps la forme du sens interne, et un système qui reçoit l'heure de chaque message dispose bien de la mesure du temps, mais pas de ce qu'il contenait : hésitation, trouble ou simple distraction.
Ce qui retient sur sa chaise
Face à une question difficile, chacun dispose d'issues de secours : changer de sujet, déclarer qu'« il faut nuancer », ou partir, comme Euthyphron dans le dialogue éponyme de Platon. Pourtant, la plupart du temps, la personne reste, alors que devant une machine il lui suffit de fermer une fenêtre. On pense d'abord à la honte d'être pris en défaut, que nul n'éprouve devant un algorithme. Mais cette absence peut être un avantage : des chercheurs ont montré qu'on se livre davantage à un agent virtuel qu'on croit piloté par un programme, parce qu'on craint moins d'être jugé. La honte retient sur la chaise, mais elle empêche aussi l'aveu d'ignorance, et elle ne devient un moteur que chez celui qui a pris de la distance avec lui-même et qui veut surmonter la défaillance qu'il admet. Lachès, dépité de ne pas savoir dire ce qu'est le courage, veut poursuivre l'enquête ; Alcibiade, qui n'éprouve de honte que devant Socrate, le fuit pour retourner aux honneurs de la foule. Or cette distance face à soi ne se forme elle-même que sous le regard d'autrui, puisque c'est dans ce regard que l'on se reconnaît.
Ce qui retient la personne sur sa chaise est plus prosaïque, et plus profond. Il y a d'abord une forme de fierté : on ne met pas fin à un entretien parce qu'une question embarrasse, cela paraîtrait puéril, presque théâtral, alors que fermer une fenêtre ne paraît rien, puisque personne n'en est témoin. Il y a ensuite l'engagement : la personne est "venue", elle a choisi sa question, la plupart du temps elle a payé, mais surtout elle se sent responsable, devant quelqu'un d'impliqué, de se montrer un être de raison. Richard Rorty reprochait à la théorie de la connaissance de rattacher nos manières de justifier à quelque chose de plus haut, la Vérité, l'Objectivité, la Raison, qui exigerait un engagement moral. Ici, l'engagement existe bien, mais il vise quelqu'un, pour une heure qui doit aller à son terme, si bien qu'en se dérobant elle gâcherait elle-même le travail pour lequel elle est venue.
Le temps revient alors, non plus comme une compétence du questionneur mais comme la forme de la relation. Pour nous autres humains, il est une contrainte indépassable : sans le don d'ubiquité, chaque heure consacrée à quelque chose est retirée à tout le reste, si bien que donner son temps revient à l'investir. Pour la machine, il n'en est pas une, puisqu'un même système traite au même instant les échanges d'innombrables personnes. On objectera que la personne questionnée, elle, consacre une heure de sa vie dans les deux cas, face à un écran comme face à un philosophe : ce n'est donc pas son propre temps qui fait la différence. La différence tient au temps de celui qui questionne. Le philosophe ne peut être ailleurs pendant qu'il est là, il a choisi de consacrer cette heure à cette personne plutôt qu'à une autre, alors que la machine ne renonce à rien en lui répondant. Reste à savoir si l'on peut être tenu par l'investissement d'un autre, et même si on le perçoit.
Une machine peut donc bien questionner, mais elle ne peut pas maintenir la tension intellectuelle et existentielle qui retient l'interlocuteur et lui donne l'énergie de penser
Au terme de ce parcours, ce n'est ni la méthode qui fait défaut à la machine, puisque les procédures du raisonnement se reproduisent, ni le sens du rythme, qui pourrait s'apprendre comme un seuil. C'est que questionner quelqu'un, c'est le tenir dans la question, et que ce qui retient un interlocuteur ne se trouve pas dans la question elle-même : c'est la fierté devant un témoin, la responsabilité de se montrer un être de raison devant quelqu'un d'impliqué, une heure que chacun a choisi d'investir. Une machine peut donc bien questionner, mais elle ne peut pas maintenir la tension intellectuelle et existentielle qui retient l'interlocuteur et lui donne l'énergie de penser, car du côté de la machine rien n'est en jeu. La personne qu'elle interroge peut s'en aller sans que cela coûte rien à personne, et si elle revient, la question reprendra, mais le kairos sera passé. Ce qui rend la machine impropre au questionnement ne tient donc ni à sa compétence "cognitive" ni à son habileté à simuler l'intérêt, mais à sa condition de machine, ce qui montre que questionner est un acte existentiel, et non seulement une opération logique.
Le livre qui répond
Dans le Phèdre, le roi Thamous refuse l'écriture que lui offre le dieu Theuth, parce que l'écrit, quand on l'interroge, garde un silence solennel. Cette fois, le livre répond, et il intègre tous les livres. Platon devrait être rassuré. Mais Socrate est toujours aussi seul : est-ce parce qu'il manque encore un questionneur, ou parce que nous ne savons nous laisser tenir dans une question que par quelqu'un dont le temps, comme le nôtre, est compté ?
Ce que la machine ne peut pas faire, tenir quelqu'un dans une question, ne la rend pas inutile. Parce que rien n'est en jeu de son côté, elle peut opposer à nos positions l'objection la plus dure, à condition qu'on lui demande de nous contredire plutôt que de nous satisfaire. Apprendre à s'en servir ainsi, puis reprendre entre humains ce qui a résisté, c'est l'objet du séminaire Entraîner sa pensée, avec l'IA comme sparring-partner, quatre dimanches de novembre, les 8, 15, 22 et 29, de 18h à 20h en visioconférence.
