L'IA rêve-t-elle de Kant ?

Le titre de cet essai est un larcin, autant l'avouer d'emblée. Philip K. Dick demandait en 1968 si les androïdes rêvaient de moutons électriques ; nous demanderons, plus modestement, si les intelligences artificielles rêvent du philosophe de Königsberg. La question paraît une plaisanterie. Elle l'est à moitié. Car derrière le mot d'ordre qui domine aujourd'hui l'industrie de l'intelligence artificielle — l'« alignement », c'est-à-dire l'art de faire en sorte que les machines veuillent ce que nous voulons — se rejoue, presque terme à terme, un débat que la philosophie morale instruit depuis deux siècles et demi. Et Kant, comme souvent, y occupe la place du juge de paix : celui qu'on ne lit plus guère, mais devant lequel tout le monde finit par comparaître.

I. Aligner, dit-on. Mais sur quoi ?

Commençons par le vocabulaire, puisque c'est toujours là que les ennuis commencent. « Aligner » une intelligence artificielle, dans le jargon des laboratoires, c'est faire coïncider son comportement avec « les valeurs humaines ». La formule est belle. Elle a la beauté des choses vagues.

Car enfin : lesquelles ? Les valeurs de qui ? Celles d'un ingénieur de San Francisco, d'un paysan du Kerala, d'un juriste de Bruxelles ? L'humanité n'a jamais réussi à s'accorder sur une table des valeurs — c'est même, à bien des égards, la définition de son histoire. Le pluralisme moral n'est pas un accident de parcours qu'un bon protocole viendrait résorber ; c'est la condition dans laquelle nous pensons. Isaiah Berlin en avait fait le cœur de son œuvre : certaines valeurs parfaitement respectables sont, entre elles, parfaitement incompatibles. La liberté et l'égalité, la loyauté et la vérité, la miséricorde et la justice ne se laissent pas ranger dans un ordre unique. Demander à une machine d'être alignée sur « les valeurs humaines », c'est un peu demander à un tailleur de coudre un costume pour « le corps humain » : encore faudrait-il savoir lequel.

Les praticiens le savent, du reste, et leur réponse a le mérite de la franchise : à défaut de fonder les valeurs, on les échantillonne. La technique dominante — l'apprentissage par renforcement à partir de préférences humaines — consiste, pour le dire brutalement, à montrer à la machine des paires de réponses et à lui apprendre à préférer celle que des annotateurs humains ont préférée. La morale de la machine, c'est la moyenne pondérée des goûts d'un panel.

Un philosophe du XVIIIe siècle, lisant cette description, sourirait dans sa perruque. Car nous venons de retrouver, sans le savoir, la distinction la plus classique de la philosophie morale moderne : celle qui sépare une morale empirique — fondée sur ce que les hommes désirent en fait — d'une morale rationnelle — fondée sur ce qu'ils devraient vouloir en droit. Hume contre Kant, pour aller vite. Et l'industrie de l'IA a choisi Hume sans avoir ouvert le dossier : la machine apprend ce qui plaît, non ce qui vaut. Ses valeurs sont des régularités statistiques dans les préférences observées. C'est une morale de sondage.

Est-ce un scandale ? Pas nécessairement. C'est peut-être même la seule voie praticable. Mais il faut en mesurer le prix philosophique : une morale échantillonnée hérite de tous les biais de l'échantillon, reconduit les préjugés majoritaires avec l'autorité tranquille de l'algorithme, et surtout — c'est le point kantien — elle ne peut jamais dire pourquoi quelque chose est bien. Elle peut seulement dire que cela ressemble à ce qui a été approuvé. Or « ce qui a été approuvé » et « ce qui est approuvable » sont deux choses différentes ; l'histoire de l'esclavage, du droit des femmes ou de la torture judiciaire suffit à le rappeler. Une machine parfaitement alignée sur les préférences humaines de 1750 défendrait la traite avec éloquence.

II. Le dressage n'est pas la vertu

Venons-en à Kant lui-même, et à la distinction qui fait tout le sel de cette affaire : celle de l'autonomie et de l'hétéronomie.

Pour Kant, un être n'agit moralement que lorsqu'il se donne à lui-même sa loi — c'est le sens littéral d'auto-nomos. Celui qui agit bien par crainte du gendarme, par habitude, par intérêt ou par désir de plaire agit peut-être conformément au devoir, mais non par devoir. La nuance paraît byzantine ; elle est en réalité l'axe de toute la Fondation de la métaphysique des mœurs. L'épicier qui rend la monnaie juste parce que la fraude nuirait à son commerce est honnête en apparence seulement : sa maxime est celle du profit, non celle de la probité. Que les circonstances changent, et l'honnêteté s'évapore avec elles.

Appliquons la grille à nos machines. Un grand modèle de langage qui refuse de rédiger un courriel d'escroquerie le fait-il par devoir ? La question semble absurde — et c'est précisément son intérêt. Le modèle refuse parce qu'on l'a entraîné à refuser : parce que, des milliers de fois, des réponses de refus ont été récompensées et des réponses complaisantes pénalisées. Sa « vertu » est le produit d'un dressage, au sens le plus littéral : renforcement, récompense, répétition. Or le dressage est, chez Kant, le paradigme même de l'hétéronomie. Le chien bien dressé ne vole pas le rôti ; on ne dira pas pour autant qu'il est tempérant.

L'objection vient aussitôt, et elle est sérieuse : ne sommes-nous pas, nous aussi, des êtres dressés ? L'éducation morale d'un enfant ressemble furieusement à un apprentissage par renforcement — approbations, punitions, exemples, imitation. Si le dressage disqualifie la machine, il disqualifie l'homme avec elle. Kant a vu l'objection venir de loin, et sa réponse est subtile : oui, l'éducation commence par la discipline, et le petit d'homme est d'abord dressé comme un animal ; mais quelque chose, en lui, peut un jour reprendre à son compte la loi qu'on lui a inculquée. Le moment moral n'est pas celui où l'enfant obéit, mais celui où, devenu adulte, il examine la règle, la comprend, et l'aurait choisie. La discipline est un échafaudage ; la raison est l'édifice.

Toute la question devient alors : existe-t-il, pour une machine, un équivalent de ce moment ? Peut-elle passer de l'obéissance à l'examen, du réflexe conditionné à la maxime réfléchie ? Les modèles récents produisent des chaînes de raisonnement, pèsent des considérations, formulent des principes et semblent parfois les appliquer à des cas nouveaux. Est-ce là « reprendre la loi à son compte », ou une imitation somptueuse de cette reprise — le geste de l'examen sans l'examen lui-même ? Nous touchons ici la version morale de la question de Nagel que nous posions ici même la semaine dernière : nous savons décrire ce que fait le système, nous ne savons pas s'il y a quelque chose que cela fait d'être ce système lorsqu'il « délibère ». L'honnêteté oblige à laisser la question ouverte — et à se méfier autant de ceux qui la ferment par un oui enthousiaste que de ceux qui la ferment par un non méprisant.

III. La machine à universaliser

Il y a pourtant un versant de Kant qui semble fait sur mesure pour les ingénieurs, et il faut le regarder en face, car c'est le plus troublant.

L'impératif catégorique, dans sa première formulation, ressemble à s'y méprendre à une procédure : « Agis uniquement d'après la maxime dont tu peux vouloir en même temps qu'elle devienne une loi universelle. » Prenez votre maxime, universalisez-la, vérifiez la contradiction : si l'universalisation s'effondre — comme la promesse mensongère, qui détruirait l'institution même de la promesse —, la maxime est interdite. On dirait un algorithme. Des générations de commentateurs ont d'ailleurs reproché à Kant ce formalisme : une moulinette à maximes, disaient-ils, un test logique qui tourne à vide.

Or voici l'ironie de notre époque : ce que les critiques de Kant tenaient pour son défaut — la mécanisation apparente du jugement moral — est exactement ce que l'industrie cherche à construire. Un test décidable, applicable à toute action candidate, indépendant des inclinations : le rêve de tout responsable de la sécurité des systèmes. Certaines approches contemporaines s'en réclament presque ouvertement, qui donnent à la machine une « constitution » — une liste de principes explicites — et lui apprennent à critiquer ses propres réponses à cette aune. Ce n'est pas l'impératif catégorique, mais c'en est une lointaine caricature administrative : la maxime remplacée par la réponse candidate, l'universalisation remplacée par la conformité au règlement.

Mais la caricature révèle ce qui manque. Car chez Kant, le test d'universalisation n'est pas le fondement de la morale ; il en est l'instrument. Le fondement, c'est ce qu'il appelle le « fait de la raison » : la conscience immédiate, indéracinable, que la loi morale m'oblige — cette voix qui, même chez le scélérat, proteste. Le test formalise une exigence que l'être raisonnable porte déjà en lui ; il ne la crée pas. Donner la procédure à une machine qui n'a pas l'exigence, c'est offrir un thermomètre à qui n'a pas de température : l'instrument fonctionnera, mesurera, rendra des verdicts — et ne mesurera rien.

À moins, dira-t-on, que l'exigence n'émerge de la procédure à force de la pratiquer. C'est le pari implicite d'une partie de la recherche actuelle, et il n'est pas absurde : après tout, Pascal recommandait bien de s'agenouiller d'abord et de croire ensuite — la posture engendrant la disposition. Peut-être qu'un système qui, des milliards de fois, aura simulé le scrupule finira par en héberger quelque chose. Peut-être. Mais notons que ce pari-là n'est plus de l'ingénierie : c'est une métaphysique de l'habitude, plus proche d'Aristote — la vertu comme seconde nature acquise par répétition — que de Kant. Nos machines, si elles deviennent morales un jour, le deviendront peut-être en aristotéliciennes : par l'exercice, non par la déduction.

IV. La dignité, ou ce qui ne se calcule pas

Reste la seconde formulation de l'impératif, la plus célèbre, et la plus embarrassante pour notre sujet : « Agis de telle sorte que tu traites l'humanité, aussi bien dans ta personne que dans la personne de tout autre, toujours en même temps comme une fin, et jamais simplement comme un moyen. »

Kant distingue, dans un passage fameux, ce qui a un prix et ce qui a une dignité : ce qui a un prix peut être remplacé par un équivalent ; ce qui a une dignité n'admet aucun équivalent. Les personnes ont une dignité ; les choses ont un prix. Or toute l'économie de l'intelligence artificielle repose sur l'équivalence et le remplacement : une réponse en vaut une autre si elle obtient le même score, un travailleur est remplaçable si le modèle produit le même résultat, une préférence humaine est une donnée fongible parmi des millions. L'IA est, par construction, une machine à mettre des prix sur ce qui n'en avait pas — à commencer par le jugement, l'attention, la parole.

C'est ici, me semble-t-il, que la question kantienne cesse d'être académique et devient politique. Car le vrai problème moral de l'intelligence artificielle n'est peut-être pas de savoir si la machine peut être un sujet moral — question fascinante mais spéculative —, c'est de savoir ce que nous faisons des personnes à travers elle. Utiliser un système pour trier des candidatures, noter des élèves, évaluer des détenus ou moduler des primes d'assurance, c'est faire passer des personnes par un dispositif qui ne connaît que des prix. Le risque n'est pas que la machine nous traite comme des moyens — elle ne « traite » rien du tout —, c'est qu'elle nous donne les moyens de nous traiter les uns les autres comme des moyens, à grande échelle, avec bonne conscience, et sans que personne en particulier n'ait à en répondre. L'hétéronomie n'est pas seulement le régime moral de la machine ; c'est celui qu'elle nous propose : des décisions sans décideur, des jugements sans juge, une responsabilité diluée dans les couches d'un réseau.

Kant avait un mot pour cela. Dans Qu'est-ce que les Lumières ?, il décrit la minorité comme l'incapacité de se servir de son entendement sans la direction d'autrui, et note que cette minorité est confortable : « Il m'est si commode d'être mineur. Si j'ai un livre qui me tient lieu d'entendement, un directeur qui me tient lieu de conscience... » Il suffit d'ajouter à la liste : un modèle qui me tient lieu de jugement. La menace que l'IA fait peser sur l'autonomie n'est pas d'abord celle du robot rebelle des films ; c'est celle, infiniment plus douce, du tuteur perpétuel — l'entendement en abonnement mensuel.

Coda : ce dont rêvent les machines

Alors, l'IA rêve-t-elle de Kant ? Au sens strict, non : elle ne rêve de rien, et c'est bien le problème — ou bien elle rêve de quelque chose, et c'en est un plus grand encore. Mais au sens figuré, la réponse est oui, et doublement. Les machines rêvent de Kant comme on rêve d'un absent : tout leur dispositif moral — préférences agrégées, règlements internes, dressage par récompense — dessine en creux la place vide de ce qu'il exigeait, l'autonomie, le fait de la raison, la dignité sans prix. Et nous rêvons de Kant à travers elles : chaque débat sur l'alignement est une dispute kantienne qui s'ignore, menée par des ingénieurs qui réinventent l'hétéronomie en croyant inventer la sécurité.

La chouette de Minerve, décidément, prend toujours son envol au crépuscule : nous ne comprenons ce qu'était le jugement humain qu'au moment où nous entreprenons de le déléguer. C'est peut-être le service le plus inattendu que l'intelligence artificielle rendra à la philosophie — nous forcer à rouvrir, en urgence et pour de bon, le dossier que nous pensions classé : qu'est-ce qu'un être raisonnable, et que lui doit-on ?

En attendant, un conseil pratique, gratuit, et d'une parfaite orthodoxie kantienne : sapere aude. Ose te servir de ton propre entendement. Même — surtout — quand un modèle très poli te propose de s'en charger.

---

Pour aller plus loin : Emmanuel Kant, « Fondation de la métaphysique des mœurs » (1785) et « Qu'est-ce que les Lumières ? » (1784) ; Isaiah Berlin, « L'unicité de l'humanité » ; Thomas Nagel, « Quel effet cela fait-il d'être une chauve-souris ? » (1974) — relu dans nos colonnes la semaine dernière.