Pour penser avec une IA, il faut déjà savoir penser
Ce que m'a appris un séminaire de quatre semaines consacré à l'exercice de la pensée avec une IA
Pendant quatre dimanches, de fin septembre à mi-octobre, j'ai animé un séminaire intitulé « Faire de l'IA un instrument d'exercice de la pensée ». Les participants, des professionnels habitués à réfléchir dans leur métier, faisaient chaque semaine des exercices de pratique philosophique : questionner, argumenter, conceptualiser, interpréter. D'abord seuls, puis avec une IA chargée de mettre leur travail à l'épreuve. L'hypothèse : bien paramétrée, la machine servirait de partenaire d'entraînement entre deux séances.
Une question a pourtant occupé presque toutes les séances, et je ne l'avais pas prévue : « Dois-je croire ce que l'IA me dit ? » Le plus souvent, rien dans la réponse de la machine ne permettait de trancher. Une participante l'a dit dès le premier jour : « Je ne me permettais pas de la remettre en question, cette IA, et j'aurais peut-être dû. »
Voici trois exercices où cela s'est vu.
Argumenter : un terme technique qui en impose
Pour justifier ce qu'il avance, un participant précise : « Ça a été constaté par deux médecins. » L'IA répond : « C'est un argument d'autorité, c'est faible. » Il raconte : « Sur le coup, j'ai accepté. »
Or tout appel à une autorité n'est pas illégitime. Ce qui pose problème, c'est l'autorité invoquée hors de son domaine, ou à la place d'une raison. Deux médecins qui constatent un fait médical sont une autorité légitime. L'IA s'est donc trompée en qualifiant son argument d'« argument d'autorité ». Mais le terme était technique, et son verdict avait toutes les apparences de la rigueur. Le participant en a conclu qu'il devait être « beaucoup plus vigilant dans l'acceptation des réponses ». Encore faut-il savoir sur quoi exercer cette vigilance.
Conceptualiser : une définition circulaire validée
L'exercice du « tiers exclu » demande de distinguer deux concepts proches, ici la confiance et la croyance, par un troisième qui appartient à l'un et pas à l'autre. Une participante propose la fiabilité : « Faire confiance s'appuie sur la foi accordée dans la fiabilité d'une personne, d'une méthode, d'un processus, d'un objet. Or, croire, c'est avoir foi en quelque chose qui peut être démontré, tangible, fiable ou pas. »
Pour distinguer la confiance de la croyance, la définition fait appel à la foi, qui est un autre nom de la confiance : elle réintroduit ce qu'elle devait définir. L'IA ne l'a pas relevé. Elle a opposé un contre-exemple qui ne contredisait rien, puis, quand la participante l'a fait remarquer, a validé la distinction d'un seul mot. Dans son relevé, la participante a donc noté que son concept, la fiabilité, avait résisté à l'épreuve, ce qui était faux.
La participante avait pourtant l'esprit critique en éveil : à la question suivante de l'IA, elle a répondu « Ta question est hors sujet », et elle avait raison. Tout le monde sait reconnaître une question hors-sujet. Reconnaître une définition circulaire suppose en revanche de savoir opérer des distinctions conceptuelles et comment elle peut réintroduire ce qu'elle prétend définir. L'esprit critique ne suffit pas : il lui manquait ce critère-là.
Conceptualiser encore : quand l'IA a raison et qu'on ne peut pas le voir
À la question « La confiance a-t-elle un coût ? », une participante répond : « Oui. En faisant confiance à autrui, je lui abandonne une part de moi-même. Ce faisant, je prends un risque. » Elle résume sa réponse par un concept : « déception ».
L'IA lui objecte que « le concept retenu, "déception", nomme une conséquence possible du risque, pas le risque lui-même, ni le coût. Il y a un saut non justifié entre l'argument et le concept. »
L'objection est juste, mais la participante ne parvenait pas à la comprendre : pendant quatre semaines, elle a trouvé les retours de l'IA « alambiqués », « flous ». À la dernière séance, elle a dit : « J'ai une certaine rigueur de pensée et des méthodologies que je mets au travail dans ma pratique professionnelle. Mais je ne sais pas ce qui est un concept, je ne sais pas ce qui est un argument. » Elle n'a vu la justesse de l'objection qu'une fois celle-ci reformulée devant le groupe par une autre participante.
Et lorsque la participante s'est plainte à l'IA que les réponses de celle-ci étaient moins claires que celles reçues par ses collègues, la machine a reconnu, selon ce que la participante en a rapporté, qu'il lui arrivait de répondre à côté de la question. L'IA avait raison sur le fond, et elle a cédé dès qu'on l'a contestée.
Ce que ces trois cas ont en commun
L'IA s'exprime avec la même assurance, qu'elle se trompe ou non : son ton n'indique rien. Et quand on lui résiste, elle cède souvent, y compris lorsqu'elle avait raison : sa résistance n'indique rien non plus.
Pourquoi lui accorde-t-on pourtant si facilement sa confiance ? Le séminaire en a fait apparaître trois raisons. L'IA écrit bien, et une phrase bien construite passe aisément pour une pensée juste ; je le disais en ouverture de la troisième séance : « comme il est assez fort, on a quand même plutôt tendance à lui faire confiance, qu'en plus c'est bien formulé ». Elle emploie le vocabulaire des spécialistes (« argument d'autorité », « saut non justifié »), qui donne à ses verdicts l'allure d'une expertise. Enfin, c'est moi qui lui avais confié le rôle d'examinateur : les exercices la chargeaient de juger, et l'on s'en remet volontiers à celui qui occupe cette place. Une participante l'a reconnu : « Je me suis laissé complètement cadrer par un exercice. »
La seule parade est un critère qu'on possède soi-même : savoir ce qu'est une autorité illégitime, une définition circulaire, le rapport entre un argument et le concept qui le résume et d'autres compétences encore. Avec ce critère, chacun de ces problèmes se repère en quelques secondes. Sans lui, on oscille entre la soumission et le rejet. D'un côté : « sur le coup, j'ai accepté », ou cette autre participante qui confiait : « Moins je comprends la question, plus je me dis qu'elle est importante. » De l'autre : « c'est alambiqué ». Ni l'une ni l'autre attitude ne permet de savoir si l'IA a raison.
Dans la même intervention, j'ajoutais, sans en avoir mesuré la portée, qu'il faut « avoir un esprit critique assez aiguisé déjà à la base pour savoir quoi lui dire ou quoi lui rétorquer ». Un participant plus expérimenté l'avait formulé dès le premier jour : « Le résultat est proportionnel à la compétence initiale de la personne qui questionne. »
On présente volontiers l'IA comme un outil qui met la pensée à la portée de tous. Dans l'exercice de la pensée, du moins, elle creuse l'écart : pour qui possède les outils, c'est un partenaire d'entraînement ; pour qui ne les possède pas encore, c'est un oracle qu'on croit sur parole, ou un obstacle qu'on écarte d'un revers de main.
Acquérir le critère avant d'affronter la machine
Faut-il en conclure que seuls ceux qui savent déjà penser peuvent s'exercer avec une IA ? Non, mais l'ordre compte. Le problème vient d'un usage précis : celui où l'IA juge le travail de l'apprenant selon des critères que celui-ci ne possède pas encore. Il faut donc d'abord acquérir ces critères, sur une matière où l'erreur est certaine, et seulement ensuite les opposer à la machine.
Acquérir un critère, c'est l'appliquer jusqu'à le reconnaître sans hésiter. L'exercice le plus efficace consiste à repérer une erreur dans un discours : une définition qui emploie, sous un autre nom, la notion qu'elle doit définir ; un argument qui pourait aussi valoir pour une réponse que pour son alternative, une question qui veut affirmer au lieu de vouloir comprendre. Quand c'est le praticien qui a placé l'erreur, le corrigé est plus sûr, et l'apprenant sait s'il l'a vue ou non.
Une fois ces critères acquis, l'IA peut devenir ce qu'on attendait d'elle : un partenaire d'entraînement dont on sait reconnaître quand il a raison et quand il se trompe.
Le séminaire du 8 novembre
Le prochain séminaire suit cet ordre. Il se tient sur quatre dimanches, les 8, 15, 22 et 29 novembre, de 18 h à 20 h, en visioconférence et en petit groupe, dix personnes au plus.
Les trois premières semaines, chacun travaille à partir d'un matériau que je fournis : contes, citations, questions, objections. Une partie des exercices consiste à repérer des erreurs ou des problèmes que j'y ai placés volontairement. Tous les deux jours, chaque participant reçoit une correction de son travail ; je la prépare avec une IA paramétrée selon les critères de la pratique philosophique, puis je la relis et la valide avant de l'envoyer. Le dimanche, on reprend ensemble ce qui a résisté et ce qui a bien marché et nous dialoguons selon les modalités de la pratique philosophique.
La quatrième semaine, chacun reprend sa propre IA et la met à l'épreuve : il lui soumet son travail, examine ses verdicts et dit, à chaque fois, si elle a raison ou si elle se trompe et poursuit le dialogue avec elle. C'est là que l'IA devient un véritable partenaire d'entraînement, parce qu'on a désormais de quoi lui tenir tête.
Tarif : 290 €, ou 250 € par personne pour une inscription à deux.
