Face à l’IA, le jugement humain doit faire ses preuves
Dans Intelligence artificielle, intelligence humaine : la double énigme, Daniel Andler distingue la capacité à résoudre des problèmes de celle qui permet de faire face à des situations. Une situation nous engage dans un monde où d’autres personnes ont leurs attentes, où plusieurs exigences peuvent entrer en conflit, où notre intervention transforme ce à quoi nous répondons. Pour Andler, l’intelligence capable d’y faire face doit se soumettre à la « norme du jugement humain ». Mais une question se présente aussitôt : à quelles conditions ce jugement mérite-t-il de faire norme ?
Je défendrai ici une thèse : le jugement humain ne constitue une norme crédible face à l’IA qu’à condition de se soumettre lui-même à l’épreuve de la contradiction. Le dialogue philosophique organise cette épreuve : il nous oblige à préciser ce que nous jugeons, à justifier ce que nous privilégions et à examiner ce que nous préférerions laisser de côté. Cette exigence ne règle pas la question de savoir si une machine peut juger au même sens que nous. Elle nous empêche toutefois de prendre notre humanité pour une garantie de discernement.
Nous sommes engagés dans les situations que nous traversons. Nous pouvons perdre un emploi, décevoir un proche, compromettre une relation à laquelle nous tenons. Cela donne du poids à nos décisions mais cela peut aussi les fausser. La peur de décevoir nous rend parfois incapables de dire ce que nous savons ; le souci de notre réputation nous incite à défendre une erreur ; l’attachement à quelqu’un nous fait minimiser ce qui devrait nous alerter. Avoir quelque chose à perdre nous rend attentifs à certains aspects d’une situation et aveugles à d’autres. Notre implication appelle donc un travail sur notre jugement.
La compétence ne garantit pas le discernement
Imaginons un technicien qui termine une installation le lundi soir. La mise en service a été promise au client pour le lendemain. Il reste un contrôle à effectuer, mais celui-ci prendrait quatre heures. Le technicien connaît son matériel. Il est convaincu que tout fonctionne et que le test ne révélerait rien. Il décide de s’en passer, puis signe le document attestant que la vérification a été faite. Le mardi, l’installation fonctionne. Son responsable le félicite d’avoir tenu le délai.
Il a résolu le problème tel qu’il se le représentait : livrer à temps une installation en état de marche. A-t-il pour autant bien jugé la situation ? Le fonctionnement du matériel ne rend pas vraie l’affirmation selon laquelle le contrôle a eu lieu. Même si sa prévision était exacte, il a substitué sa conviction à une vérification promise. Le client ignore cette substitution. Il ne peut donc ni l’accepter ni la refuser en connaissance de cause.
La difficulté philosophique ne consiste pas à rendre indécidable ce qui est assez clair : attester un contrôle que l’on n’a pas effectué, c’est mentir sur ce qui a été fait. Elle consiste à comprendre comment un professionnel compétent peut en venir à considérer ce mensonge comme une décision raisonnable, voire comme un service rendu. Il veut tenir une promesse, mais il en compromet une autre. Il se croit fidèle à sa mission parce qu’il en a réduit le contenu au résultat immédiatement attendu.
On objectera qu’il connaît son métier, son entreprise et son client. C’est justement ce qui rend le cas intéressant. Ses connaissances peuvent étayer une estimation du risque technique. Elles ne suffisent pas à justifier la dissimulation. Entre « je sais apprécier ce matériel » et « je peux attester un contrôle non réalisé », il y a un passage que sa compétence ne permet pas de franchir. Son assurance masque la différence entre ces deux propositions.
Aristote : distinguer l’habileté de la prudence
Aristote permet d’éclairer cette difficulté avec la notion de prudence, la phronèsis. La prudence désigne une capacité à bien délibérer sur ce qu’il convient de faire dans des circonstances particulières. Elle implique l’expérience, mais aussi une appréciation de ce qui est bon pour la vie humaine. Aristote la distingue de l’habileté, cette aptitude à trouver les moyens efficaces d’atteindre un objectif. On peut être habile au service d’une mauvaise fin. L’efficacité d’un raisonnement ne suffit donc pas à établir la qualité de la décision qu’il prépare. Éthique à Nicomaque, VI, 5, 7 et 12.
Notre technicien peut être habile, expérimenté et sincèrement désireux de bien faire. Encore faut-il examiner ce qu’il appelle « bien faire ». Tenir le délai ? Garantir la fiabilité de l’installation ? Préserver la confiance du client ? Éviter un conflit avec son responsable ? Ces exigences peuvent se rejoindre ; elles peuvent aussi se contrarier. Une décision les hiérarchise, même lorsque celui qui la prend ne reconnaît pas qu’il choisit entre elles.
Ce que le dialogue met au jour
C’est ici que le dialogue intervient. Aristote remarque déjà que nous sollicitons des conseils dans les affaires importantes parce que nous doutons de pouvoir les apprécier suffisamment par nous-mêmes. Il réserve cependant la délibération, au sens strict, à la recherche des moyens d’atteindre une fin. La pratique philosophique peut pousser l’examen jusque dans la formulation de cette fin : pourquoi faudrait-il sauver le délai à ce prix ? Qu’avons-nous décidé de sacrifier en le traitant comme l’exigence suprême ? Éthique à Nicomaque, III, 3.
Dans une consultation ou un atelier, le travail peut commencer par une affirmation très simple : « Je n’avais pas le choix. » Il faut alors demander ce que cette phrase signifie. Aucune autre action n’était-elle possible, ou les autres actions avaient-elles un coût que la personne ne voulait pas supporter ? Signaler le retard aurait peut-être provoqué un reproche. Effectuer le contrôle aurait peut-être exigé de revoir l’organisation. Ces possibilités étaient-elles réellement exclues, ou ont-elles été écartées sans examen ?
Une question précise fait ainsi apparaître ce qu’un récit d’évidence avait effacé : quelqu’un a privilégié quelque chose. Il devient possible d’en discuter. Le technicien peut défendre la priorité qu’il a donnée au délai, mais il doit alors expliquer pourquoi cette priorité autorisait à tromper le client. Il peut aussi reconnaître qu’il a confondu l’intérêt de son entreprise avec son propre désir de ne pas avoir d’ennuis. Ce serait une hypothèse à examiner, sans la lui imposer comme une vérité psychologique.
L’examen doit également porter sur l’organisation. Si elle exige des délais incompatibles avec les contrôles, décourage les alertes et récompense les seuls résultats visibles, elle favorise les décisions qu’elle prétend interdire. La responsabilité du technicien ne dispense pas de questionner celle de son responsable. Le dialogue philosophique perdrait sa portée s’il ne servait qu’à demander aux individus de mieux supporter des contradictions que personne ne veut reconnaître collectivement.
Pour qu’il y ait examen, il faut pouvoir demander une justification, relever une incohérence, proposer un contre-exemple et obtenir une réponse
Discuter ne suffit pas
Il serait pourtant excessif d’en conclure que toute décision prise seul est mauvaise, ou qu’un jugement solitaire n’est jamais qu’une opinion. On peut examiner seul une objection sérieuse, anticiper le point de vue d’autrui, corriger son raisonnement. Inversement, plusieurs personnes peuvent se conforter dans la même erreur. Une réunion où chacun approuve le supérieur n’éprouve aucun jugement. Elle peut même fournir à une décision fragile la caution du groupe.
La valeur du dialogue tient donc à la contradiction qu’il rend possible. Pour qu’il y ait examen, il faut pouvoir demander une justification, relever une incohérence, proposer un contre-exemple et obtenir une réponse. Celui qui questionne doit accepter que son objection soit réfutée ; celui qui répond doit accepter que son argument soit insuffisant. La philosophie pratique travaille ces dispositions autant que les raisonnements eux-mêmes. Savoir construire un argument sert peu si l’on refuse d’entendre ce qui le met en difficulté.
Cette épreuve ne garantit pas une décision juste. Elle peut toutefois rendre visibles des erreurs, des intérêts dissimulés et des possibilités négligées. Son ampleur doit être proportionnée à l’enjeu et au temps disponible. L’urgence oblige parfois à agir avant d’avoir tout examiné ; elle peut aussi devenir le prétexte habituel de ceux qui ne veulent jamais rendre raison de leurs choix.
Une IA pour éprouver notre jugement
Que devient alors la place de l’IA ? Dans l’échange qui a suscité cet article, elle a contribué à mettre en difficulté certaines de mes affirmations. Elle a aussi proposé une alternative trop rapide : ou bien un jugement a été éprouvé par autrui, ou bien il n’est qu’une opinion. Il fallait lui objecter qu’une réflexion solitaire peut comporter sa propre mise à l’épreuve. Cet épisode montre l’usage que nous pouvons faire d’un tel interlocuteur : examiner ses questions avec la même exigence que nos réponses. Une objection produite par une machine mérite d’être évaluée pour ses raisons ; son ton assuré ne lui confère aucune autorité particulière.
Nous pouvons nous servir d’une IA pour travailler notre jugement, à condition d’examiner aussi les présupposés de ce qu’elle propose
Rien de cela ne réfute à lui seul la distinction d’Andler. Participer utilement à l’examen d’une situation ne prouve pas que l’on y soit engagé comme un être humain. Mais nous n’avons pas besoin de trancher cette question pour reconnaître la valeur d’une objection. Nous pouvons nous servir d’une IA pour travailler notre jugement, à condition d’examiner aussi les présupposés de ce qu’elle propose. Et cet échange ne remplace pas la parole des personnes concernées : une simulation du point de vue du client ne vaut ni son avis ni son consentement.
La responsabilité demeure chez ceux qui décident et agissent. Le technicien ne serait pas déchargé de son choix parce qu’un logiciel lui aurait conseillé de signer. Il ne le serait pas davantage parce que ses collègues l’auraient approuvé. Recueillir des avis peut éclairer une décision ; cela peut aussi servir à disperser la responsabilité jusqu’à ce que personne ne veuille plus l’assumer.
Si nous voulons préserver le jugement humain face à l’IA, il faut donc le pratiquer avec davantage d’exigence. Exposer nos raisons, accepter leur examen, reconnaître ce que notre décision privilégie et en répondre devant ceux qu’elle concerne : voilà qui donne un contenu à cette ambition. Lorsque nous affirmons que la décision doit rester humaine, sommes-nous prêts à ces obligations — y compris lorsqu’un interlocuteur artificiel nous rappelle que nous ne les avons pas remplies ?
C’est cette exigence que je vous propose de mettre en pratique lors de mon prochain séminaire de pratique philosophique et d’IA, consacré à une question : comment utiliser l’IA pour développer sa pensée ? Nous y travaillerons la manière de questionner ses réponses, de lui demander des objections et de nous servir du dialogue pour préciser nos idées et éprouver nos jugements.
