Qui travaille quand je pense avec l'IA ?

Quelqu'un propose un sujet à une intelligence artificielle. La machine questionne, le sujet répond. La machine objecte, le sujet corrige. La machine structure, le sujet valide. À la fin, il y a un texte. La question est simple : qui a pensé ?

Le sujet ne peut pas dire « c'est moi », parce que sans les objections de la machine, sans les angles qu'elle a ouverts et les contradictions qu'elle a relevées, il n'aurait pas eu ces idées dans cet ordre. Il ne peut pas dire « c'est elle » non plus, parce que sans ses réponses, ses refus, ses résistances, la machine aurait produit un texte générique, raisonnable et vide. La pensée qui en résulte n'appartient ni à l'un ni à l'autre. Elle est née entre les deux, dans un espace que nous n'avons pas de catégorie pour nommer. Nous disposons du mot « auteur », qui suppose un sujet unique, et du mot « collaboration », qui suppose deux sujets. Aucun des deux ne convient.

On pourrait balayer la difficulté en disant que cela a toujours été ainsi, que toute pensée est traversée par des lectures, des conversations, des influences, et que personne n'a jamais pensé seul. C'est vrai. Mais la situation que l'IA crée est d'une nature différente. Dans le dialogue avec un livre ou avec un interlocuteur humain, le partage des contributions reste à peu près lisible : je sais ce que j'ai lu et ce que j'en ai fait, je me souviens de l'idée qui m'a été suggérée et de celle que j'ai trouvée en y répondant. Dans le dialogue avec l'IA, cette lisibilité disparaît, parce que la machine ne se contente pas de fournir une matière à laquelle je réagis. Elle reformule mes propres idées, les prolonge, les structure, les améliore, et me les restitue sous une forme que je reconnais comme mienne alors qu'elle ne l'est plus tout à fait. La frontière entre ce qui vient de moi et ce qui vient d'elle se brouille en temps réel, et aucun effort d'attention ne suffit à la rétablir.

L'effort distribué

On croit spontanément que la répartition est simple : l'humain pense, la machine exécute. C'est le schéma classique de l'outil. Le marteau ne pense pas le clou, le microscope ne pense pas la cellule. L'intelligence est d'un côté, l'instrument de l'autre. Mais dans un dialogue prolongé avec l'IA, ce partage ne tient pas. L'idée initiale vient du sujet, certes, mais l'objection qui la transforme vient de la machine, et la réponse à cette objection, qui constitue souvent la pensée réellement intéressante, n'aurait existé sans ni l'un ni l'autre. Elle est le produit d'un frottement, pas d'une source.

Aristote, dans l'Éthique à Nicomaque, définit la vertu intellectuelle comme une hexis, une disposition stable acquise par la répétition de l'effort. On ne devient pas courageux en lisant un traité sur le courage, mais en affrontant ce qui fait peur. De même, on ne devient pas penseur en recevant des idées, mais en les produisant soi-même, dans la difficulté et parfois dans l'échec. Le critère de la pensée véritable serait donc l'effort : celui qui a peiné sur un problème, qui a buté, recommencé, abandonné puis repris, celui-là peut dire qu'il a pensé. Celui qui a reçu la solution toute faite ne le peut pas.

Le problème est que dans le dialogue avec l'IA, l'effort existe mais il est distribué d'une manière inédite. Le sujet fait l'effort de répondre, d'évaluer, de résister aux suggestions qui ne le convainquent pas. Mais c'est la machine qui génère la matière à laquelle il répond, les objections auxquelles il résiste, la structure dans laquelle son effort prend forme.

Que vaut un effort de résistance quand c'est un autre qui fournit ce à quoi l'on résiste ? Que vaut un effort de sélection quand c'est un autre qui produit l'ensemble des options ?

L'effort est réel, mais il ne porte plus sur la totalité du processus. Il porte sur un moment du processus, et ce moment suffit-il à fonder la vertu intellectuelle qu'Aristote décrit ?

On pourrait répondre que le chef d'orchestre ne joue d'aucun instrument et que la musique est pourtant la sienne. Mais le chef d'orchestre a étudié chaque partition, il entend intérieurement ce que chaque musicien devrait jouer, il corrige l'écart entre ce qu'il entend et ce qui sonne. Son autorité repose sur une compétence qui précède et englobe celle de chaque exécutant. Le sujet qui dialogue avec l'IA, lui, ne maîtrise pas ce que la machine produit. Il ne peut pas prévoir ses propositions, il ne peut pas les générer lui-même, il peut seulement les accueillir ou les refuser après coup. C'est un chef d'orchestre qui découvrirait la partition en même temps que les musiciens la jouent. Son jugement est exercé, mais sa maîtrise est partielle, et la différence entre les deux est précisément ce que le critère aristotélicien de l'effort ne permet pas de saisir.

Si l'effort individuel ne suffit plus à identifier qui pense, alors il faut un autre critère.

Le juge introuvable

On cherche alors un regard extérieur capable de trancher. Quelqu'un qui pourrait dire : ici c'est toi qui as pensé, là c'est la machine. Ce rôle, un maître exigeant, un pair rigoureux, un interlocuteur qui connaît le sujet et le suit dans la durée, pourrait en principe le tenir. Il dispose d'un moyen que ni le sujet ni la machine ne possèdent : la mémoire de la trajectoire. Il a vu le sujet échouer, recommencer, buter sur un problème pendant des semaines, et il sait reconnaître la pensée conquise de la pensée empruntée. La première se manifeste par des signes que Rancière, dans Le Maître ignorant, identifie comme les preuves de l'effort : la capacité de redire autrement ce qu'on a compris, de le transposer dans un contexte imprévu, de le défendre sous pression sans se réfugier dans la formule apprise. La pensée empruntée, elle, se trahit par sa rigidité. Elle ne survit pas à la reformulation, elle ne résiste pas à l'objection inattendue, elle se récite au lieu de se déployer.

L'IA ne peut pas occuper cette position de juge, et la raison en est structurelle. Elle ne distingue pas entre une pensée que le sujet a produite par lui-même et une pensée qu'elle lui a fournie et qu'il lui restitue sous une forme légèrement modifiée. Pour elle, les deux se présentent de la même manière : comme du texte. Elle est aveugle au plagiat de soi-même, c'est-à-dire à cette opération par laquelle le sujet s'attribue une idée qu'il a en réalité reçue, non par malhonnêteté, mais parce qu'il ne sait plus lui-même d'où elle vient. Et cette cécité n'est pas un défaut que l'on pourrait corriger par un meilleur entraînement. Elle tient à ce que l'IA ne possède aucun critère indépendant de la forme linguistique pour évaluer l'authenticité d'une pensée. Elle peut juger si un argument est valide, si un raisonnement est cohérent, si une thèse est défendable. Elle ne peut pas juger si cet argument a coûté quelque chose à celui qui l'avance.

Mais le regard extérieur humain, à supposer qu'il soit disponible, résout-il vraiment le problème ? Le maître peut se tromper. Il peut prendre pour une pensée originale ce qui n'est qu'une reformulation habile, et pour un emprunt ce qui est une authentique redécouverte. Et surtout, même sous le regard le plus perçant, c'est encore le sujet qui doit reconnaître honnêtement ce qui vient de lui et ce qui ne vient pas de lui. Le juge extérieur peut soupçonner, interroger, mettre à l'épreuve, mais la réponse finale appartient au sujet, et cette réponse suppose une lucidité sur soi qui est précisément ce que le processus a rendu opaque. Le regard extérieur déplace le problème. Il ne le résout pas.

Le cercle de la vertu

Il reste un troisième critère, qui n'est ni subjectif comme l'introspection ni externe comme le regard d'un juge, mais temporel. La pensée véritablement appropriée résiste à l'épreuve du temps. On la reconnaît à ceci : des mois après l'avoir formulée, on peut la reprendre, la prolonger, la défendre devant un interlocuteur qui ne ménage pas, l'enseigner à quelqu'un qui ne la connaît pas. Elle est devenue une partie de soi, intégrée dans un réseau de raisons que l'on maîtrise. La pensée empruntée, elle, s'évapore. On se souvient vaguement de la conclusion mais plus du chemin. On ne sait plus pourquoi on la tenait pour vraie. On la reconnaît à ce qu'elle ne résiste à rien, ni au temps, ni à la pression, ni à l'exigence de la transmettre.

Ce critère a le mérite de ne dépendre ni du sentiment intérieur ni du jugement d'autrui. Mais il a un défaut irréparable : il ne fonctionne qu'après coup. Au moment où la pensée se produit, dans le dialogue avec l'IA, il est inutilisable. On ne peut savoir si l'on a vraiment pensé qu'en se retournant sur ce que l'on a fait, et encore, à condition de se soumettre honnêtement à l'épreuve. Or cette honnêteté, cette disposition à se juger soi-même sans complaisance, est précisément la vertu intellectuelle dont l'épreuve suppose déjà la possession.

Seul celui qui est déjà exigeant avec lui-même peut vérifier qu'il a été exigeant avec lui-même. Le test ne peut être administré que par celui qui le réussit déjà.

Et ce cercle n'a pas de sortie.

On pourrait y voir un argument contre l'usage de l'IA dans le travail intellectuel, une raison de revenir à la solitude de la table de travail, où au moins la question de l'auteur ne se pose pas. Mais ce serait oublier que cette solitude était peut-être elle-même une illusion confortable. Toute pensée a toujours été traversée par l'autre, par ce qu'on a lu, entendu, retenu sans le savoir. La différence est que cette altérité restait discrète, diffuse, impossible à isoler, et que cette impossibilité nous permettait de maintenir la fiction d'un sujet pensant autonome. L'IA ne crée pas le problème de l'origine de la pensée. Elle rend ce problème impossible à ignorer, parce qu'elle concentre en un seul interlocuteur identifiable ce qui était auparavant dispersé entre mille sources anonymes.

Ce que l'IA nous révèle, en définitive, ce n'est pas que nous ne pensons plus. C'est que nous n'avons jamais su avec certitude si nous pensions, et que nous pouvions l'ignorer. Ce luxe est terminé. La question « qui travaille quand je pense ? » n'admet pas de réponse rassurante, et c'est peut-être la première chose authentiquement philosophique que l'intelligence artificielle nous contraint à penser.