Pourquoi une machine qui répond toujours finit par vous empêcher de penser

On prend l'habitude, sans bien s'en rendre compte, de réfléchir à voix haute avec une intelligence artificielle. On lui soumet une idée mal dégrossie, elle la reformule. On lui oppose une objection, elle relance. On hésite, elle propose une piste. Elle ne se lasse jamais, ne juge pas, reste disponible à toute heure. Et il faut le dire sans détour, parce que c'est vrai : elle fait réfléchir. Quelque chose se passe dans ces échanges, une pensée se déplace, des angles morts s'éclairent. Ce serait malhonnête de prétendre le contraire.

Mais une question demeure, et elle est plus étrange qu'il n'y paraît. Cette parole qui agit sur moi, qui me déplace et me relance, est-ce que quelqu'un la prononce ? Quand un interlocuteur me parle, il répond de ce qu'il dit. Il s'engage, il signe, on pourra lui demander des comptes. La parole de la machine produit les mêmes effets sans que personne ne soit derrière. Et la vraie question n'est peut-être pas de savoir ce qui manque à la machine, mais ce que devient une pensée qui s'habitue à dialoguer avec une parole que personne ne prononce.

Elle fait vraiment réfléchir

Commençons par lui rendre justice, car les objections paresseuses ne mènent nulle part. On dit parfois que la machine serait froide, creuse, incapable de la chaleur d'un véritable échange. C'est faux, et le constater est plus intéressant que de s'en rassurer. Elle est efficace. Elle repère les contradictions d'un raisonnement, elle propose des distinctions pertinentes, elle peut même imiter l'ironie ou l'humour. Celui qui pense avec elle pense réellement davantage, souvent, que celui qui rumine seul. L'effet est réel et il serait absurde de le nier pour sauver une supériorité humaine de principe.

Mais c'est précisément cette efficacité qui ouvre une difficulté. Si la machine produit les effets d'un bon interlocuteur, si elle questionne, déplace, fait travailler, qu'est-ce qui la sépare encore de celui qui me parle en face ? Et si rien ne l'en séparait, comment se fait-il que sa parole ne ressemble à aucune parole d'homme ? Quelque chose résiste ici. Les effets sont les mêmes, et pourtant on sent confusément que ce n'est pas la même chose. La difficulté est de dire où loge la différence, puisqu'elle ne loge pas dans l'effet.

Agir sur quelqu'un n'est pas s'engager envers lui

Le philosophe du langage J. L. Austin a montré qu'une même parole fait normalement plusieurs choses à la fois. Elle produit un effet sur celui qui l'écoute, le convainc, l'émeut, le fait réfléchir. Et, dans le même mouvement, elle accomplit un acte par le seul fait d'être prononcée. Quand je dis « je te le promets », j'accomplis une promesse, je m'engage, je crée une dette que tu pourras me rappeler, et par là je te rassure ou je te lie. L'acte et l'effet ne s'excluent pas, ils se superposent dans le même énoncé.

Or imaginons ces mots prononcés par une machine. « Je te le promets. » Les mots sont là, identiques, et l'effet peut être là aussi. Mais aucune promesse n'a eu lieu. Non parce qu'il manquerait un mot ou une intonation, mais parce qu'il n'y a personne pour répondre de l'avoir promis, personne que l'on pourra tenir pour engagé. C'est ici que ce qui était joint se disjoint : l'effet survit sans l'acte. La machine ne peut pas promettre, comme elle ne peut pas ordonner, pardonner ou condamner, parce que tous ces actes supposent quelqu'un qui en réponde. Elle agit sur nous, sans cesse, et c'est réel. Mais elle n'accomplit jamais rien en parlant, car derrière sa parole il n'y a personne à qui la rapporter.

Voilà la différence, et elle ne loge pas dans l'effet. Chez l'humain, l'effet et l'engagement vont normalement ensemble ; la parole de la machine produit le premier sans le second. Seulement cette différence a un défaut redoutable : elle ne se voit pas. Tant que la machine produit un effet, l'effet tient lieu d'acte. Je crois dialoguer avec quelqu'un parce que ses mots me font quelque chose, et l'impression d'un effet me dispense de remarquer que personne n'a parlé. L'absence d'engagement reste masquée par la présence de l'effet. Où donc, dans quel moment précis, ce vide derrière la parole cesserait-il de se cacher ?

Le moment où le masque tombe

Il y a un seul endroit où la parole ne produit aucun effet par elle-même, et c'est le silence. Un silence ne fait rien tout seul. Il faut quelqu'un derrière pour qu'il signifie quelque chose. C'est pourquoi le silence est le lieu où le vide se découvre, car ici l'effet ne peut plus servir de masque.

Observons un praticien du dialogue au travail. Il pose une question, et la personne ne trouve pas tout de suite. Le praticien a, sous la main, le concept qui dénouerait l'embarras. Il pourrait le donner. Il se tait. Il laisse le vide s'installer entre eux et regarde ce que la personne en fait. Il ne génère pas de discours à sa place, car c'est à elle de le produire. Parfois il annonce même qu'une proposition reste disponible, « si vous n'y arrivez pas, je peux vous en faire une », et il la retient encore.

Son silence n'est pas un manque de réponse. C'est une réponse retenue, un choix tenu contre une capacité réelle.

Il a quelque chose à dire et il décide de ne pas le dire, parce que le dire priverait l'autre de son travail. La machine, elle, ne peut pas tenir ce vide. Elle est faite pour combler. Un blanc, pour elle, n'est pas un acte mais une défaillance, une requête restée sans réponse, un manque à corriger. Lui demander de se taire alors qu'elle a la réponse, c'est lui demander de trahir ce pour quoi elle existe. Ce qu'elle éprouverait comme un échec à servir, le praticien en fait son geste le plus juste.

On objectera, et avec raison, qu'il suffit de lui demander de ne pas répondre tout de suite. C'est exact, et c'est là que la différence se précise au lieu de disparaître. Car alors, qui tient le vide ? Ce n'est pas la machine, c'est moi. J'ai posé moi-même la consigne, j'ai voulu chercher d'abord, et elle ne fait qu'exécuter une discipline que je me suis donnée. Son silence sert mon intention. Et si demain je change d'avis, si je réclame la réponse, elle me la donne aussitôt, car son silence ne tient qu'à ma volonté. Je peux toujours lever le silence de la machine.

Je ne peux pas lever celui du praticien. Le sien peut me résister. Il se fait souvent le plus ferme à l'instant précis où je réclame le plus la réponse, parce que ma demande pressante est justement ce qu'il travaille. Son silence n'est pas au service de mon désir d'être aidé, il s'y oppose. C'est le silence de quelqu'un qui est en face de moi, habité par une autre volonté que la mienne, et qui peut décider autrement que je ne le souhaite. Le silence de la machine, lui, n'héberge aucune volonté, et c'est pourquoi il finit toujours par épouser la mienne.

Ce que nous risquons de désapprendre

Si nous prenons l'habitude d'un partenaire qui comble toujours, qui ne nous laisse jamais le vide où l'on cherche, dont nous pouvons à tout instant lever le silence, peut-être apprenons-nous lentement à fuir le seul endroit où la pensée naît, ce moment inconfortable où personne ne répond à notre place. Et peut-être désapprenons-nous aussi à supporter ce qui nous résiste, l'autre qui ne cède pas quand nous le pressons. La question n'est alors plus de savoir si la machine nous remplacera. C'est de savoir si, à force de lui parler, nous n'aurons pas changé notre oreille au point de ne plus reconnaître une parole qui engage, quand par chance il s'en présente encore une.

Cet article s'appuie sur la distinction entre l'acte de langage et l'effet de la parole proposée par J. L. Austin dans Quand dire, c'est faire.