Intelligence artificielle et stupidité humaine

31 mars 2016 par jerome lecoq

Cet article montre comment ce que nous propose l'intelligence artificielle ne peut être qu'une intelligence...stupide.

Vous avez peut-etre entendu parler de Tay, ce « chat bot » créé par Microsoft récemment qui a été retiré de la circulation après quelques heures d'utilisation seulement parce qu'il commençait à relayer sans filtre des propos racistes et mysogines sur twitter, suite à des dialogues avec des internautes trop heureux de pouvoir « piéger » la machine.

Est-ce l'avenir que nous réserve la mal nommée intelligence artificielle ? La promesse du géant des OS et logiciels était que le robot devait devenir de « plus en plus intelligent » à mesure qu'il apprenait des conversations avec ses différents interlocuteurs du monde entier. Le problème vient d'un excès d'enthousiasme de ses concepteurs et surtout d'une conception enfantine de l'intelligence. Qu'est-ce que l'intelligence ? Nous répondrons de manière très commune : « la capacité de faire du lien entre les concepts » (on ne parlera pas même pas ici des intelligences multiples comme l’intelligence logico-mathématique, musicale, kinesthésique, sociale, philosophique, etc. popularisées par H . Gardner).

Mais il ne s’agit pas de n’importe quel lien. Il faut que le lien entre deux concepts ait un sens. Par exemple le lien entre le concept de pomme et de table peut être la copule "être" suivie de l'adverbe « sur », ce qui donne la proposition : « la pomme est sur la table ». Mais dans l'autre sens cela ne marche pas : « la table est sur la pomme ». Non parce que la phrase est absurde grammaticalement mais parce qu'elle fait référence à une absurdité dans le monde physique, hormis quelques cas très spécifiques que l'on peut toujours trouver (on peut toujours s'imaginer une table minuscule posés sur une pomme, ou bien prendre « la table » au sens figuré du dessin d’une table fait sur une pomme).

Or comment un ordinateur peut savoir que la phrase "la table est sur la pomme" n'a pas de sens ? Il faut nécessairement qu'on lui ait donné l'instruction selon laquelle une table ne peut pas être sur une pomme. Et par la même occasion lui donner tous les noms d'objets qui ne peuvent figurer sur une pomme ainsi que par extension toutes les phrases qui n'ont pas leur pendant dans le monde physique. C'est cela comprendre une phrase, comme disait Wittgenstein, c'est "savoir que dans le monde réel ce que nous disons correspond à quelque chose qui arrive."

Car si on nous dit que la table est sur la pomme, même si cette phrase est compréhensible, le premier réflexe d'un homme normalement constitué sera de dire – « je ne comprends pas » ou « ce n'est pas possible ». Ainsi il ne peut pas prendre cette idée avec lui, la com-prendre (cum prehendere, « saisir avec » en latin), cette idée fait obstacle à son système de représentations. Et il serait impossible de programmer un logiciel pour lui indiquer tout ce qui n'est pas possible car les possibilités de l'impossibilité sont....infinies.

L'homme le sait lui de manière intuitive car il a « vécu » la pomme et la table, il les a perçues et ne peut se faire une idée d'un assemblage si bizarre, sauf à savoir que nous sommes dans le domaine de l'art ce qui est encore possible (et encore un autre problème : pourra-t-on jamais avoir une intelligence artificielle artiste ?). Par son expérience vécue il sait qu'une table ne peut pas tenir sur une pomme.

De la même manière l'homme sait argumenter (enfin en principe), c'est-à-dire soutenir une proposition sur le monde par une explication, par une raison. Raison qui renvoie à un système de valeurs, à une conception de la vie, à des croyances. Si je dis que « je vais manger parce que la cloche sonne », cet argument quelque peu bizarre est acceptable dans le cas d'une personne qui mange tous les jours à la même heure, dans une école ou une maison de retraite par exemple et qui ne se pose même pas la question de savoir si elle a faim. On pourra opposer des objections à cet argument. Mais un ordinateur, que pourra-t-il dire sur cet argument ? Comment peut-il comprendre le lien entre une cloche, l'habitude et le fait de manger ? S'il ne peut comprendre cet argument il ne pourra lui donner du sens et le refusera. D'un autre coté il acceptera des arguments qui n'ont aucun sens comme on l’a vu précédemment.

Or c’est cela qu’on appelle communément penser et qui fait appel à l’intelligence : c’est évaluer, sous-peser, décider, questionner, objecter, argumenter…Ces compétences se travaillent comme n’importe quelle compétence. Laissées en jachère elles s’atrophient comme toutes les compétences. Mais ces compétences sont incarnées par des attitudes, comme la confiance par exemple.

Comment voulez-vous argumenter avec quelqu’un s’il ne vous fait pas confiance ? In fine ces attitudes renvoient à des croyances à un être-au-monde, à des valeurs. Or une intelligence artificielle n’a a priori pas de valeurs, elle n’est que pure intelligence, donc stupide.

Découvrir l'école de la pensée