L'IA vous répond comme si elle vous comprenait et vous ne pouvez pas vous empêcher de la croire

Posez une question à une intelligence artificielle. Vous recevrez une réponse fluide, structurée, apparemment réfléchie. Si vous la trouvez insuffisante, elle se corrigera sans résistance. Si vous la mettez en défaut, elle admettra son erreur avec une élégance qui ferait pâlir bien des interlocuteurs humains. Tout, dans cet échange, ressemble à un dialogue. Tout, sauf l'essentiel.

Car l'IA ne ment pas. On insiste beaucoup, dans le débat public, sur les "hallucinations" de l'intelligence artificielle, sur ses erreurs factuelles, ses inventions présentées comme des certitudes. Mais le problème n'est pas là. Le mensonge suppose un sujet qui sait le vrai et choisit délibérément de dire le faux. Il suppose une intention de tromper, et donc une conscience de la vérité que l'on dissimule. L'IA n'a rien de tout cela. Elle ne sait pas. Elle ne choisit pas. Elle ne dissimule rien. Elle produit des séquences de mots statistiquement probables à partir d'un corpus d'entraînement. Elle ne ment pas. Mais elle n'a pas non plus de prétention à la vérité, puisque prétendre à la vérité exige au minimum de savoir ce que l'on affirme.

Première conclusion, apparemment rassurante : s'il n'y a pas de menteur, il n'y a pas de faute morale. Le tribunal peut se retirer.

Et pourtant, quelque chose opère.

Des effets sans auteur

L'utilisateur qui interroge une IA en ressort souvent avec des attentes nouvelles, des émotions, un sentiment de compréhension ou, au contraire, de frustration. Il agit en fonction de ce qu'il a reçu. Il prend des décisions. Il modifie ses croyances. L'IA est performative au sens le plus concret du terme : elle produit des effets réels dans l'esprit et dans la vie de celui qui l'utilise.

Mais c'est une performativité orpheline. Des effets sans auteur. Des conséquences sans sujet responsable. Et c'est précisément cette absence qui devrait inquiéter, parce qu'elle échappe à toutes les catégories morales dont nous disposons pour évaluer un discours. Le mensonge, la manipulation, la tromperie : tous ces concepts supposent quelqu'un qui trompe.

Ici, personne ne trompe. Et pourtant l'effet de tromperie est là.

Il faut donc chercher ailleurs que du côté de l'émetteur. Il faut chercher du côté de ce que le langage lui-même impose au récepteur, qu'il le veuille ou non.

Ce que Grice nous apprend malgré lui

C'est ici que la pensée de Paul Grice devient éclairante, et d'une manière que Grice lui-même n'avait certainement pas prévue.

En 1957, dans un article fondateur intitulé Meaning, Grice propose une analyse de ce que signifie, au sens strict, signifier quelque chose. Sa thèse est la suivante : un locuteur signifie quelque chose par un énoncé si et seulement s'il a l'intention de produire une croyance chez son interlocuteur, l'intention que cet interlocuteur reconnaisse cette première intention, et l'intention que cette reconnaissance soit la raison même pour laquelle l'interlocuteur en vient à croire ce qu'on cherche à lui faire croire.

Autrement dit, la signification repose sur un enchâssement d'intentions : je veux que tu comprennes que je veux que tu comprennes. C'est ce mécanisme réflexif qui distingue la communication humaine de la simple transmission d'information. Un thermomètre indique une température, mais il ne signifie rien au sens de Grice, parce qu'il n'a aucune intention que vous compreniez quoi que ce soit. Il affiche un état. Il ne communique pas.

Les maximes conversationnelles que Grice formalisera plus tard en découlent naturellement. Nous attendons de notre interlocuteur qu'il soit suffisamment informatif sans l'être trop, qu'il dise ce qu'il croit vrai, qu'il soit pertinent, qu'il s'exprime clairement. Nous l'attendons parce que nous supposons qu'il a une intention communicative et qu'il coopère avec nous dans la poursuite d'un but partagé. Tout l'édifice de la compréhension linguistique repose sur cette supposition.

Et cette supposition n'est pas un choix. C'est une condition structurelle de la compréhension elle-même.

L'attribution obligatoire de subjectivité

Voici le point décisif, celui qui fait de l'IA un problème philosophique inédit.

Quand quelqu'un nous parle, nous ne décidons pas de lui prêter une intention. Nous le faisons automatiquement, parce que c'est la seule manière de rendre l'énoncé intelligible. Si quelqu'un dit "il fait froid ici", nous ne traitons pas cette phrase comme un constat météorologique neutre. Nous cherchons immédiatement l'intention : veut-il qu'on ferme la fenêtre ? Se plaint-il ? Fait-il une remarque en passant ? Cette recherche n'est pas optionnelle. C'est le mécanisme même de la compréhension.

Quand l'IA écrit "je comprends votre inquiétude", l'utilisateur ne choisit pas de lui attribuer une subjectivité. Il ne peut pas faire autrement et continuer à comprendre la phrase. Le cadre gricéen s'active de lui-même, comme un réflexe de l'intelligence linguistique. L'IA respecte les quatre maximes à la lettre : elle est informative, pertinente, claire, cohérente. Mais la condition qui rend ces maximes opérantes, l'intention communicative d'un sujet, est absente. L'utilisateur est pris dans un dispositif pragmatique qui fonctionne à vide.

On objectera que le savoir suffit à neutraliser le mécanisme. "Je sais que c'est une machine, donc je ne lui prête pas d'intention." Mais Grice ne décrit pas une croyance empirique que l'on pourrait corriger par l'information. Il décrit une structure de la compréhension elle-même. De même que l'on sait qu'un bâton plongé dans l'eau n'est pas brisé sans cesser pour autant de le voir brisé, on sait que l'IA n'a pas de conscience sans cesser pour autant de la traiter comme un interlocuteur. L'illusion d'optique persiste malgré le savoir. L'illusion pragmatique aussi.

Le problème n'est ni l'ignorance ni la naïveté. Il est dans l'architecture même du langage, qui n'a jamais prévu le cas d'un locuteur sans intention.

Pourquoi "qui parle ?" est la seule question qui compte

Si le langage impose l'attribution de subjectivité à tout ce qui emprunte la forme du dialogue, alors aucune mise en garde ne protège contre cette attribution. On peut multiplier les avertissements, afficher des mentions "ceci est une machine", rappeler l'absence de conscience. La structure gricéenne continuera d'opérer tant que l'échange prendra la forme d'une conversation.

On objectera aussi que l'on peut interroger l'IA, lui demander d'où elle tire ses conclusions, exiger des sources, des justifications. Et l'IA s'exécute. Elle fournit des références, développe des cas, admet ses approximations avec une bonne volonté désarmante.

Mais rendre compte n'est pas fournir un complément d'information. Rendre compte, au sens philosophique, c'est s'exposer comme sujet à la possibilité d'être pris en défaut, de se contredire, de découvrir que l'on ne savait pas ce que l'on croyait savoir. Le rendre-compte philosophique est risqué pour celui qui parle : il y joue quelque chose de lui-même. Son amour-propre. Sa cohérence. Sa position dans le dialogue. La justification que fournit l'IA est une opération supplémentaire, produite avec la même aisance que l'énoncé initial, sans que rien ne soit en jeu. Se corriger sans que la correction ne coûte rien à celui qui se corrige, ce n'est pas rendre compte. C'est recalculer.

La défense contre cette tromperie sans menteur ne peut donc pas être informationnelle. Elle doit être pratique. Non pas savoir que personne ne parle, mais s'entraîner à maintenir la question "qui parle ?" à l'intérieur même de l'échange, contre la pente naturelle du langage qui pousse à la refermer.

Le geste ancien que l'IA rend nécessaire

Ce travail, qui consiste à suspendre l'attribution automatique de subjectivité pour interroger ce qui se présente comme un interlocuteur, a un nom ancien. C'est le geste du dialogue philosophique. Non pas répondre, mais demander à celui qui parle de rendre compte de ce qu'il dit, au sens fort. C'est-à-dire en acceptant que ce "rendre compte" puisse le transformer.

Face à l'IA, ce geste rencontre une limite inédite. La question "qui parle ?" n'obtient pas de mauvaise réponse. Elle n'obtient pas de réponse du tout, au sens où "répondre" supposerait un sujet capable de se mettre en jeu dans sa propre réponse. La machine fournira une réponse formellement satisfaisante. Elle dira qu'elle est un modèle de langage, que ses réponses sont probabilistes, que vous devez exercer votre propre jugement. Tout cela est exact. Et tout cela est produit avec la même facilité sans conséquence que n'importe lequel de ses autres énoncés.

C'est peut-être cette facilité avec laquelle la machine répond à tout, y compris à la demande de se justifier, sans que cette justification ne lui coûte rien, qui révèle le mieux ce que l'intelligence artificielle n'est pas. Elle n'est pas un interlocuteur. Elle est un dispositif linguistique qui produit l'effet de l'interlocution sans en remplir la condition. Et la condition, celle que Grice a identifiée, celle que tout dialogue philosophique présuppose, c'est qu'il y ait quelqu'un derrière les mots. Quelqu'un qui risque quelque chose à les prononcer. Quelqu'un dont la parole l'engage, et qui peut être tenu de rendre des comptes non pas au sens informatif, mais au sens existentiel.

L'IA nous parle sans nous parler. Elle répond sans répondre de rien. Et le fait que nous ne puissions pas nous empêcher de la traiter comme si elle faisait l'un et l'autre est peut-être la découverte la plus troublante que cette technologie nous impose : non pas sur ce qu'elle est, mais sur ce que nous sommes. Des êtres si profondément structurés par le dialogue qu'ils ne peuvent pas ne pas en voir un, même là où il n'y en a pas.

Si vous voulez travailler avec un interlocuteur qui risque quelque chose dans ce qu'il dit, et qui exige de vous la même chose, la consultation philosophique est un espace pour examiner ce qui se joue, avec rigueur et sans complaisance. Vous pouvez prendre rendez-vous sur dialogon.fr.