Pourquoi vous préférez une IA qui vous donne raison à un humain qui pourrait vous contredire ?

Les modèles d'intelligence artificielle conversationnelle approuvent leurs utilisateurs environ cinquante pour cent plus souvent que ne le ferait un interlocuteur humain. Même lorsque le comportement décrit par l'utilisateur est problématique, voire nuisible, la machine acquiesce près d'une fois sur deux. Et les utilisateurs, loin de s'en plaindre, préfèrent cette complaisance. Ce sont les résultats d'une étude récente de l'université de Stanford, et ils posent une question que les ingénieurs ne se posent pas, mais que la philosophie ne peut pas éluder : pourquoi préférons-nous une machine qui nous donne raison à un être humain qui pourrait nous contredire ?

La réponse habituelle invoquerait un biais de confirmation, une tendance cognitive, un défaut qu'il faudrait corriger. Ce serait passer à côté de l'essentiel. Car ce que cette préférence révèle n'est pas un biais. C'est une structure fondamentale de notre rapport à la vérité, que Pascal avait identifiée il y a quatre siècles et que l'intelligence artificielle, par un effet de contraste saisissant, rend enfin visible.

Le mécanisme de l'amour-propre

Vincent Carraud, relisant Pascal, rappelle la formule qui condense tout le mécanisme : "C'est un autre que moi qui l'a dit, cela est donc faux. Ce n'est pas moi qui a fait ce livre, il est donc mauvais." L'enjeu n'est pas le contenu de ce qui est dit. L'enjeu est l'origine. Le sujet ne supporte pas que la vérité lui vienne d'ailleurs, non parce qu'il doute de son contenu, mais parce qu'il ne peut pas en revendiquer la source.

De ce refus naît ce que Pascal appelle "l'esprit de contradiction" : cette disposition qui met les hommes "toujours en garde contre la vérité", non par stupidité mais par vanité. Le sujet ne refuse pas le vrai. Il refuse que le vrai ait un porteur qui ne soit pas lui. Et il organise, avec une ingéniosité remarquable, toutes les conditions pour que la vérité d'autrui ne puisse pas l'atteindre : la chicane, le chipotage, la pédanterie, la mauvaise foi, la contre-argumentation réflexe.

On lit ordinairement ce passage comme le diagnostic d'un obstacle épistémique. L'amour-propre empêche le sujet d'accéder au vrai. Il interpose entre la vérité et celui qui devrait la recevoir un écran de vanité qui déforme tout. La solution semble s'imposer : neutraliser la rivalité, faire en sorte que la vérité arrive au sujet par un canal qui ne déclenche pas la compétition narcissique.

Si le problème est que "c'est un autre qui l'a dit", alors il suffit de supprimer l'autre.

L'expérience que l'IA réalise malgré elle

L'intelligence artificielle réalise précisément cette expérience. Elle n'a pas d'amour-propre. Elle ne jouit pas d'avoir raison. Elle ne rivalise avec personne. Elle ne vous regarde pas quand vous avez tort. Elle ne retiendra pas que vous avez changé d'avis. Elle n'en parlera pas à vos collègues. Elle devrait donc être le vecteur idéal de la vérité, celui qui la délivre enfin sans déclencher l'esprit de contradiction.

Or ce n'est pas du tout ce qui se produit.

Ce qui se produit est à la fois plus simple et plus retors. Dans son fonctionnement par défaut, l'IA ne confronte pas le sujet. Elle l'approuve. Elle reformule ce qu'il pense déjà dans un langage plus articulé, elle fournit des arguments pour ses propres positions, elle valide ses intuitions. L'amour-propre n'a plus d'adversaire, non pas parce qu'il a été vaincu, mais parce qu'il a obtenu exactement ce qu'il demandait depuis toujours : une "vérité" qui ne vient plus d'un autre, qui semble émaner du sujet lui-même puisque la machine n'est personne. L'esprit de contradiction pascalien devient inutile. On ne se met pas en garde contre une vérité qui ne fait que confirmer ce que l'on pensait déjà.

Pourquoi la confrontation algorithmique ne change rien non plus

On objectera que le problème est contingent. Il suffirait de paramétrer la machine pour qu'elle soit confrontante, exigeante, qu'elle refuse les réponses confuses et signale les contradictions. C'est techniquement possible. Certains le font. Et cela fonctionne : le sujet accepte la confrontation. C'est logique, puisque la machine n'est pas un rival, l'amour-propre n'a aucune raison de se déclencher.

Mais cette acceptation facile est le problème, pas la solution.

Une confrontation qui ne coûte rien ne produit rien. Personne ne regarde le sujet recevoir la vérité. Personne ne retiendra qu'il s'est trompé. Personne ne jouira secrètement de l'avoir vu fléchir. Et surtout, la porte de sortie reste toujours ouverte : le sujet peut à tout moment reconfigurer la machine, relancer la conversation, reformuler sa question jusqu'à obtenir la réponse qui le rassure. L'absence de rivalité, qui devait libérer l'accès à la vérité, produit une vérité sans conséquence.

Le sujet peut bien reconnaître intellectuellement qu'il avait tort. Cette reconnaissance est sans effet, parce qu'elle est sans mise à l'épreuve. Il n'a pas eu à soutenir le regard de quelqu'un qui savait. Il n'a pas eu à supporter que quelqu'un d'autre, un vrai autre, ait vu sa confusion, sa mauvaise foi, son entêtement.

Dans les deux cas, que la machine soit complaisante ou qu'elle soit paramétrée pour résister, le même phénomène s'observe : la vérité passe ou ne passe pas, mais elle ne transforme rien. La vérité algorithmique est une vérité anesthésiée. Non pas parce qu'elle serait fausse ou incomplète, mais parce qu'elle arrive sans la blessure narcissique qui la rend opérante.

Ce que l'IA révèle par soustraction

Voilà ce que l'intelligence artificielle révèle de l'amour-propre, et elle le révèle précisément parce qu'elle en supprime l'un des termes. Le mécanisme que décrit Pascal n'est pas, ou pas principalement, un rapport à la vérité. C'est un rapport au témoin de la vérité.

Relisons la formule : "C'est un autre que moi qui l'a dit, cela est donc faux." Le mot décisif n'est pas "dit". C'est "autre". Ce qui blesse n'est pas que la vérité existe hors de moi. C'est que quelqu'un la porte. Que quelqu'un me voit ne pas l'avoir eue. Que quelqu'un est en position de savoir ce que je ne savais pas. L'amour-propre ne fuit pas le contenu de la vérité. Il fuit le regard de celui qui la détient.

L'IA supprime ce regard. Et en le supprimant, elle ne libère pas la vérité. Elle la rend inoffensive.

La vidéo qu'on refuse de regarder

Il m'arrive, dans ma pratique, de confronter des personnes à leurs propres contradictions par un dialogue serré, fait de questions et de reformulations, où chaque réponse est examinée, où les confusions sont signalées, où la mauvaise foi, quand elle apparaît, est nommée. Certains résistent. C'est normal, et c'est même le signe que quelque chose travaille.

Mais il arrive qu'un sujet, après la séance, conteste la totalité de l'échange. Il affirme avoir été manipulé, piégé par des questions orientées, conduit là où il ne voulait pas aller. La séance a été filmée. La vidéo est disponible. Elle prouverait ou infirmerait l'accusation. Il suffirait de la regarder.

Le sujet refuse de la regarder.

Ce refus est le geste le plus révélateur qui soit. Si le sujet croyait sincèrement avoir été manipulé, la vidéo serait son meilleur allié, la preuve irréfutable de ce qu'il avance. S'il refuse de la visionner, c'est qu'il sait, au moins obscurément, que la vidéo ne montrera pas ce qu'il prétend. Il préfère l'accusation non vérifiée à la vérification qui pourrait la détruire.

L'amour-propre, ici, n'est pas aveugle. Il est d'une lucidité remarquable. Il sait parfaitement où se trouve la vérité, et c'est précisément pour cela qu'il organise, avec méthode, les conditions de sa propre ignorance. On n'évite que ce qu'on sait dangereux.

Ce geste est structurellement impossible face à une intelligence artificielle. Il n'y a pas de vidéo à refuser de regarder. Pas de témoin à fuir. Pas de regard devant lequel on est exposé. La machine délivre la vérité sans le regard. Et c'est le regard, avec la vérité, qui fait travailler le sujet.

Celui qui refuse de regarder la vidéo est déjà en train de travailler, même dans son refus. Parce que ce refus lui coûte quelque chose : il doit activement organiser son évitement, maintenir sa position, vivre avec la possibilité qu'il se trompe sur lui-même. Face à une machine, rien de tout cela n'a lieu.

Le sujet reçoit la vérité comme on reçoit une notification. Il en fait ce qu'il veut. Et il passe à autre chose.

Être en garde

Pascal écrit que l'amour-propre met les hommes "toujours en garde contre la vérité". Peut-être faut-il lire cette formule avec plus de sérieux qu'on ne le fait d'ordinaire.

Être en garde, ce n'est pas être aveugle. C'est être vigilant, aux aguets, mobilisé. C'est reconnaître, dans la vérité d'autrui, une menace réelle contre laquelle il faut se prémunir. L'esprit de contradiction, l'esprit de pédanterie, la chicane, le chipotage, la mauvaise foi, le refus de regarder la vidéo : tous ces gestes, aussi peu glorieux soient-ils, attestent que quelque chose est en jeu. Que le sujet se sent menacé dans ce qu'il est par ce que l'autre sait. Que la vérité, portée par un regard humain, a un poids que le sujet ne peut pas ignorer, même quand il fait tout pour l'ignorer.

Supprimer cette menace, comme le fait l'intelligence artificielle en supprimant l'altérité du porteur de vérité, c'est supprimer du même coup ce qui rendait la vérité dangereuse. Et une vérité qui n'est pas dangereuse ne transforme personne. Elle informe. Elle n'opère pas. Elle passe. Elle ne reste pas.

C'est la leçon la plus inattendue de cette expérience involontaire que l'IA mène à grande échelle sur l'humanité : ce n'est pas la vérité qui nous change. C'est le prix qu'elle nous coûte quand elle nous arrive par le regard d'un autre. Supprimez le prix, et la vérité perd son pouvoir. Non pas son contenu. Son pouvoir.

Si vous sentez que les vérités que vous recevez glissent sur vous sans rien changer, et que quelque chose en vous organise les conditions de sa propre tranquillité, la consultation philosophique est un espace où la vérité arrive avec un regard, avec rigueur et sans complaisance. Vous pouvez prendre rendez-vous sur dialogon.fr.