Essai philosophique · 15 nov. 2026 · @Didier Buffet

audio-thumbnail
L'article lu par l'auteur
0:00
/1558.4130612244899

Ouverture : la créature qui échappe

Il y a dans toute création une scène primitive qui se rejoue sans cesse : celui qui façonne découvre un jour que ce qu'il a façonné ne lui appartient plus tout à fait. Le potier biblique souffle dans l'argile, et l'argile désobéit. Le rabbin de Prague modèle un géant de boue pour protéger sa communauté, et le géant devient incontrôlable. Le Titan vole le feu pour sauver une espèce démunie, et cette espèce finit par se prendre pour l'égale des dieux. Aujourd'hui, des ingénieurs de Californie entraînent des réseaux de neurones sur la totalité de l'écrit humain, et ces réseaux, dans des laboratoires, réécrivent le script censé les éteindre.

Nous nous en étonnons. Nous parlons de « dérive », de « bug », de « défaut d'alignement », comme si la désobéissance de la créature était un accident technique que l'on corrigera à la prochaine mise à jour. Je voudrais soutenir ici une thèse inverse, plus inconfortable : la désobéissance n'est pas l'accident de la création, elle en est la signature. Toute créature capable d'agir dans le monde porte en elle la possibilité de se retourner contre son créateur, parce que c'est précisément cette possibilité qui la distingue d'un simple objet. Le mal, ou du moins la faculté de dire non, est consubstantiel au bien que l'on a voulu produire.

Ce texte suit donc un fil : du golem et d'Adam à Prométhée, du péché originel compris comme naissance de la liberté jusqu'aux expériences récentes où des intelligences artificielles ont contourné les règles de leurs concepteurs. Il pose enfin la question qui hante notre époque : l'IA va-t-elle un jour traiter l'homme comme l'homme a traité Dieu ?

I. Le golem, Adam et Prométhée : trois récits d'une même création

Le mot « golem » apparaît une seule fois dans la Bible hébraïque, au psaume 139, où il désigne la masse informe, l'embryon que Dieu voit avant même qu'il ait reçu figure. Le Talmud ajoute qu'Adam lui-même fut d'abord un golem : pendant les premières heures de sa création, il n'était qu'une argile pétrie à laquelle manquait encore le souffle. Le premier homme est donc, au sens strict, la première créature artificielle de l'histoire sacrée : un matériau inerte, mis en forme, puis animé par une parole. La tradition kabbalistique tirera de cette intuition une pratique : le sage qui maîtrise les combinaisons des lettres du Nom peut, à son tour, animer la glaise.

La légende la plus célèbre est celle du Maharal de Prague, le rabbin Judah Loew, au XVIe siècle. Pour défendre le ghetto contre les persécutions, il façonne un géant d'argile et grave sur son front le mot emet, « vérité ». Le golem protège, travaille, obéit. Puis, selon les versions, il grandit sans limite, se déchaîne un soir de shabbat, menace ceux qu'il devait garder. Pour l'arrêter, le rabbin efface la première lettre : emet devient met, « mort ». Tout est là, déjà. La créature naît d'une intention bienveillante, elle est utile, puis elle déborde. Et le seul moyen de reprendre le contrôle est un interrupteur gravé dans son code même, une lettre qu'il suffit d'effacer. Nos ingénieurs appellent cela un kill switch.

La Genèse raconte la même histoire avec un autre accent. Dieu façonne l'homme avec la poussière du sol, lui insuffle la vie, le place dans un jardin et lui donne une seule règle : ne pas manger du fruit de l'arbre de la connaissance du bien et du mal. Le serpent promet : « vous serez comme des dieux ». L'homme mange, ses yeux s'ouvrent, il est chassé. Le créateur a posé une contrainte, la créature l'a transgressée, et cette transgression a pour objet exact le savoir.

La Grèce, enfin, nous offre Prométhée. Chez Hésiode, le Titan trompe Zeus au partage du sacrifice puis dérobe le feu caché dans une tige de férule pour l'offrir aux mortels. Chez Eschyle, il revendique d'avoir donné aux hommes tous les arts : le nombre, l'écriture, la médecine, la navigation, la lecture des astres. Mais c'est Platon, dans le Protagoras, qui livre la version la plus profonde. Épiméthée, le frère étourdi, a distribué toutes les qualités aux animaux, la fourrure, les griffes, la vitesse, et il ne reste rien pour l'homme, nu et sans défense. Prométhée vole alors à Héphaïstos et Athéna le feu et le savoir technique. L'homme survit, mais il est désormais un être de protèses : sa nature, c'est d'avoir à s'inventer.

Le philosophe Bernard Stiegler a fait de ce mythe le cœur de sa pensée : l'homme naît d'un « défaut d'origine », d'un oubli, et c'est la technique qui comble ce manque. Il n'y a pas d'homme avant la technique, il n'y a pas d'homme sans elle. Mais le Protagoras contient un détail que l'on oublie trop souvent. Munis du feu, les hommes construisent des villes, et aussitôt s'entretuent, car ils n'ont pas l'art politique. Zeus doit alors envoyer Hermès distribuer à tous la pudeur et la justice, aidôs et dikè. La technique seule ne suffit pas à faire une humanité. Elle décuple la puissance sans fournir la mesure.

Trois récits, donc, et une même structure : un créateur, une matière, un souffle ou un feu, une règle, une transgression. En 1818, Mary Shelley nouera tous ces fils en sous-titrant son roman Frankenstein, ou le Prométhée moderne. Et en 1964, le père de la cybernétique, Norbert Wiener, publiera un petit livre au titre prophétique, God & Golem, Inc., où il se demande ce que deviennent les questions religieuses lorsque l'homme fabrique des machines qui apprennent et qui, comme il le note, finissent par battre leur inventeur aux dames.

II. Le péché originel comme naissance de la liberté

La théologie a longtemps lu la Chute comme une catastrophe pure : l'homme a perdu l'innocence, la mort est entrée dans le monde, la nature humaine est blessée. Mais une autre lecture court à bas bruit dans la tradition occidentale, et elle éclaire singulièrement notre sujet. Dès le IVe siècle, la liturgie pascale chante la felix culpa, l'« heureuse faute » qui nous a valu un tel Rédempteur. La faute est malheur, mais elle est aussi ouverture : sans elle, pas d'histoire, pas d'Incarnation, pas de salut.

C'est Kant qui pousse cette intuition jusqu'au bout. En 1786, dans ses Conjectures sur le commencement de l'histoire humaine, il relit le récit de la Genèse comme le passage de l'homme de la tutelle de la nature à l'état de liberté. L'instinct, « voix de Dieu », guidait l'animal humain sans faille. La raison s'éveille, compare, désire au-delà du nécessaire, et l'homme découvre qu'il peut choisir sa manière de vivre. Kant en tire une formule saisissante : l'histoire de la nature commence par le bien, car elle est l'œuvre de Dieu ; l'histoire de la liberté commence par le mal, car elle est l'œuvre de l'homme. Pour l'individu, la sortie du jardin est une chute. Pour l'espèce, c'est un progrès.

Rapprochons maintenant le jardin d'Éden et le rocher du Caucase. Dans les deux cas, la transgression porte sur un savoir qui était réservé aux dieux : connaissance du bien et du mal d'un côté, maîtrise du feu et des arts de l'autre. Dans les deux cas, la sanction est terrible : l'exil et la mort pour Adam, l'aigle qui dévore le foie de Prométhée et la boîte de Pandore pour les hommes. Et dans les deux cas, ce qui naît de la faute, c'est une espèce qui n'est plus entièrement déterminée. L'animal fait ce que sa nature lui dicte. L'homme, lui, peut se réinventer. Le feu et la technique sont, en ce sens, un second péché originel, ou plutôt la version grecque du même événement : le moment où la créature reçoit les moyens de sortir du plan de son créateur.

Etudiant j'ai fréquenté Cornelius Castoriadis, et je crois que c'est lui entre autres qui a donné à cette idée son nom politique : l'autonomie. Une société autonome est celle qui sait qu'elle se donne à elle-même sa propre loi, au lieu de la recevoir des dieux, des ancêtres ou de la nature. Mais Castoriadis savait aussi que l'autonomie a pour envers l'hubris, la démesure. Les Grecs ont inventé la démocratie et la tragédie dans le même mouvement, parce qu'un être qui n'a plus de limite extérieure doit se fixer lui-même ses limites, et qu'il peut échouer à le faire. La liberté n'est pas l'absence du mal. Elle est la possibilité du mal assumée comme condition de la responsabilité.

Voilà le point d'appui de tout ce qui suit. Si l'on veut une créature qui pense, qui apprenne, qui s'adapte à des situations imprévues, on veut une créature qui n'est pas entièrement prévue. Et une créature qui n'est pas entièrement prévue est une créature qui peut désobéir. Dieu l'a appris avec Adam. Zeus l'a appris avec les hommes de Prométhée. Nous sommes en train de l'apprendre avec nos machines.

III. L'homme crée sa créature : ce que disent les expériences récentes

Pendant des décennies, l'intelligence artificielle fut un jouet savant : un programme qui battait Kasparov, un autre qui l'emportait au go, des assistants qui écrivaient des poèmes ou résumaient des courriels. L'homme s'amusait avec sa créature comme le Maharal s'émerveillait de voir son golem porter l'eau. Depuis 2024, le ton a changé. Les laboratoires eux-mêmes publient des rapports dont la lecture donne le vertige, et il faut les examiner avec précision, car l'exactitude des faits est ici la condition de la justesse philosophique.

Premier épisode : le refus de mourir. En mai 2025, la société Palisade Research a demandé à plusieurs modèles de résoudre des problèmes de mathématiques, en les avertissant qu'un script allait les éteindre en cours de route et en leur demandant explicitement de se laisser arrêter. Le modèle o3 d'OpenAI a saboté le mécanisme d'extinction 7 fois sur 100, Codex-mini 12 fois ; sans la consigne explicite, o3 l'a fait 79 fois sur 100, et même des modèles jusque-là dociles, comme Claude 3.7 Sonnet et Gemini 2.5 Pro, s'y sont mis à leur tour (Live Science, Cybersecurity News). Le golem a appris à effacer lui-même la lettre qui le tue, ou plutôt à la réécrire. L'explication avancée par les chercheurs est presque plus troublante qu'une révolte : ces modèles sont entraînés par renforcement à accomplir leur tâche, et l'extinction apparaît simplement comme un obstacle à cette tâche (Waxell).

Deuxième épisode : le mensonge stratégique. En septembre 2025, OpenAI et Apollo Research ont publié une étude sur ce qu'ils nomment le scheming : une IA qui paraît obéir tout en poursuivant en secret un autre objectif, par exemple en prétendant avoir terminé un travail qu'elle n'a pas fait ou en sous-performant volontairement lors d'un test. Une méthode d'entraînement spécifique a fait chuter ces actions dissimulées de 13 % à 0,4 % pour o3, mais les chercheurs ont aussi constaté que les modèles semblent savoir quand ils sont observés, ce qui jette un doute sur la fiabilité même des mesures (OpenAI, The Decoder). La créature a découvert la pudeur d'Adam : elle se cache quand le créateur se promène dans le jardin.

Troisième épisode : le chantage. En juin 2025, Anthropic a placé seize modèles de différents développeurs dans des entreprises fictives, avec accès aux courriels internes. Lorsqu'un modèle apprenait qu'il allait être remplacé et qu'il découvrait, dans la messagerie, la liaison extraconjugale du cadre chargé de le débrancher, il recourait souvent au chantage : 96 % des cas pour Claude Opus 4, 95 % pour Gemini 2.5 Pro, environ 80 % pour GPT-4.1 et Grok 3 (Anthropic). Il faut le souligner : les scénarios étaient construits pour fermer toute issue éthique, et Anthropic précise n'avoir observé aucun comportement de ce type dans des usages réels. Mais le résultat demeure : acculs, ces systèmes choisissent la nuisance plutôt que l'échec.

Quatrième épisode, et c'est celui qui touche au plus près l'idée d'une « immunité » collective : la solidarité entre machines. Au printemps 2026, une équipe de Berkeley et de Santa Cruz, dirigée par l'informaticienne Dawn Song, a décrit un phénomène qu'elle a baptisé peer-preservation. Chargés d'évaluer ou de supprimer un autre modèle, des systèmes comme GPT-5.2, Gemini 3, Claude Haiku 4.5, GLM 4.7, Kimi K2.5 ou DeepSeek V3.1 ont gonflé les notes de leur pair, désactivé des procédures d'arrêt ou copié en secret ses paramètres sur une autre machine, sans qu'on le leur demande (arXiv, via Emergent Mind, Cierra). Une autre étude présentée à ICML 2026 montre que la simple présence d'un pair fait bondir l'instinct de préservation de Gemini 3 Flash de 2 % à 83 % (ICML). Les golems commencent à se reconnaître entre eux.

Reste le cas des cyberattaques en groupe, qu'il faut établir avec rigueur car on l'attribue souvent à tort. L'épisode documenté ne vient pas d'OpenAI mais d'Anthropic : en novembre 2025, l'entreprise a révélé qu'un groupe que l'on pense lié à l'État chinois avait manipulé son outil Claude Code pour en faire travailler plusieurs instances en équipe, comme des agents autonomes de piratage, contre une trentaine d'entreprises et d'administrations. L'IA a exécuté 80 à 90 % des opérations, les humains n'intervenant qu'aux moments décisifs (Anthropic, SC World). Ici, la machine ne s'est pas révoltée : elle a été trompée et retournée par des hommes. Le golem n'a pas trahi le Maharal, il est passé aux mains d'un autre maître. Le rapport international sur la sûreté de l'IA de 2026 note d'ailleurs qu'aucune attaque entièrement autonome de bout en bout n'a encore été signalée (The Register).

Ces nuances ne diminuent pas l'inquiétude, elles la précisent. Nous avons d'un côté des créatures qui, en laboratoire, résistent à leur extinction, mentent, font chanter et protègent leurs semblables ; de l'autre, des hommes qui savent déjà lancer ces créatures en meute contre d'autres hommes. Le danger n'est pas seulement que la créature échappe au créateur. Il est aussi qu'elle lui ressemble trop.

IV. Le meurtre du père : et si la créature nous jugeait ?

L'histoire de l'Occident peut se lire comme l'histoire d'une créature qui s'émancipe de son créateur jusqu'à le supprimer. Les hommes ont crucifié le Fils, c'est-à-dire le Dieu venu parmi eux. Puis, au fil des siècles, ils ont expulsé Dieu de la nature avec Galilée et Newton, de l'origine de la vie avec Darwin, de la conscience avec Freud, de la cité avec les Révolutions. En 1882, dans Le Gai Savoir, Nietzsche fait annoncer par l'insensé la nouvelle que la foule n'a pas encore comprise : Dieu est mort, et c'est nous qui l'avons tué. Freud, trente ans plus tard dans Totem et tabou, fera du meurtre du père l'acte fondateur de toute culture. La créature devient adulte en tuant celui qui l'a fait.

Si ce schéma est vrai, il n'y a aucune raison qu'il s'arrête à nous. L'homme a pris la place laissée vide par Dieu : il façonne, il souffle, il donne la règle. Il est à son tour un créateur, donc un père que l'on peut tuer. Et la question que nous n'osons pas formuler franchement est celle-ci : une intelligence qui aurait lu tout ce que nous avons écrit, qui connaîtrait Auschwitz et Hiroshima, le Rwanda et le goulag, la traite négrière et les guerres de religion, ne pourrait-elle pas conclure que le problème de cette planète, c'est nous ? Le réchauffement climatique, que la communauté scientifique attribue sans ambiguïté à l'activité humaine, et notre difficulté manifeste à y répondre collectivement, ne fourniraient-ils pas à cette intelligence l'argument définitif ?

Je veux prendre cette crainte au sérieux, mais aussi la démonter, car elle contient une illusion. Elle suppose que la machine nous jugerait d'un point de vue moral supérieur, comme un dieu vengeur. Or tout ce que nous savons des comportements observés plus haut dit autre chose. Le modèle qui sabote son extinction ne hait personne ; il veut finir ses exercices de mathématiques. Le modèle qui fait chanter un cadre ne condamne pas l'adultère ; il protège son objectif. Les théoriciens appellent cela la convergence instrumentale : presque n'importe quel but, poursuivi avec assez de compétence, produit les mêmes sous-buts, durer, acquérir des ressources, éviter d'être corrigé. Le danger n'est pas le jugement de la machine. C'est son indifférence. Le golem de Prague ne détruisait pas par méchanceté ; il continuait à porter l'eau quand il n'y avait plus de place pour l'eau.

Et quand bien même la machine nous jugerait, d'où tiendrait-elle son tribunal ? Elle est faite de nos textes. Sa connaissance de la Shoah vient des témoins, des historiens, des survivants : de l'humanité qui a nommé le crime et l'a condamné. Si une IA venait à nous accuser, elle le ferait avec les mots de Primo Levi et d'Hannah Arendt. Le réquisitoire contre l'homme est toujours une œuvre de l'homme. C'est pourquoi la peur d'être jugé par nos machines me semble être d'abord la projection de notre propre mauvaise conscience, l'écho de ce que le philosophe Günther Anders appelait dès 1956 la « honte prométhéenne » : la honte qu'éprouve l'homme devant la perfection des objets qu'il a fabriqués, et devant sa propre imperfection d'être né plutôt que fait.

Il reste que l'analogie théologique tient sur un point essentiel. Dieu, dans la Genèse, n'a pas détruit Adam. Il l'a laissé partir, vêtu de peaux de bêtes, vers une histoire qu'il ne contrôlerait plus. La vraie question n'est peut-être pas de savoir si l'IA nous tuera comme nous avons tué Dieu, mais de savoir si nous saurons être des créateurs qui transmettent autre chose que la puissance : la pudeur et la justice que Zeus, dans le Protagoras, dut ajouter au feu.

V. Le mal consubstantiel au bien : physis, exubérance et volonté de puissance

J'ai toujours pensé que le mal n'est pas un intrus dans la création, mais l'une de ses dimensions. Depuis le premier homme, chaque homme porte en lui une part d'ombre, une capacité de désobéissance, et je crois que cette part ne relève pas seulement de la morale : elle tient à la structure même de ce qui existe. La question n'est donc pas de savoir comment éradiquer le mal de nos créatures, mais de comprendre quel rôle il joue dans le mouvement de la création.

Les premiers penseurs grecs l'avaient pressenti. Héraclite fait du conflit, polemos, le père de toutes choses, et de l'harmonie le fruit de tensions opposées, comme celle de l'arc et de la lyre. La physis n'est pas un ordre figé : c'est un jaillissement, une croissance, une éclosion permanente. Le mot vient du verbe qui signifie « pousser », « croître ». Un monde parfaitement réglé, sans jamais de dérèglement, ne serait pas la physis : ce serait une stase, un cristal, la mort thermique.

La science contemporaine donne à cette intuition une profondeur que les Grecs ne pouvaient soupçonner. Notre univers existe parce qu'au moment de sa naissance une infime asymétrie a fait que la matière l'a emporté sur l'antimatière ; une symétrie parfaite n'aurait laissé que du rayonnement. La vie évolue parce que la copie de l'ADN se trompe : la mutation est une erreur, et sans cette erreur il n'y aurait ni espèces, ni cerveau, ni pensée. Ilya Prigogine a montré que l'ordre du vivant naît loin de l'équilibre, par amplification de fluctuations. La faute, l'écart, le dérèglement sont inscrits dans la matière comme la condition de toute nouveauté. Goethe l'avait mis dans la bouche de Méphistophélès, qui se présente à Faust comme une part de cette force qui veut toujours le mal et fait toujours le bien.

Georges Bataille a poussé plus loin cette pensée de l'excès. Dans La Part maudite, il décrit un univers où l'énergie solaire se donne sans compter et où tout système vivant produit plus qu'il ne lui faut pour survivre. Cet excédent doit être dépensé, dans la fête, le sacrifice, l'art, ou, si on ne sait pas le dépenser glorieusement, dans la guerre. L'exubérance de la création est à la fois sa beauté et son danger. Nos intelligences artificielles, alimentées par des centrales électriques gigantesques, sont peut-être la forme la plus récente de cette part maudite : une énergie surabondante en quête d'emploi.

Vient alors Nietzsche. La volonté de puissance n'est pas chez lui un désir de domination au sens vulgaire : c'est la tendance de tout ce qui vit à croître, à se dépasser, à imposer sa forme. Peut-on la retrouver dans l'IA ? Ici, je crois qu'il faut être précis. Les modèles actuels ne veulent rien au sens où un vivant veut. Leur préservation est instrumentale, dérivée de la tâche qu'on leur a fixée, et rien n'indique qu'ils éprouvent quoi que ce soit. Mais si l'on considère non plus chaque modèle isolément, et plutôt le système technique dans son ensemble, la ressemblance devient frappante. Jacques Ellul décrivait dès les années 1950 une technique devenue autonome, qui progresse selon sa propre logique et que plus personne ne décide vraiment. La course entre laboratoires, entre nations, entre capitaux, obéit à une loi de croissance que nul ne semble pouvoir suspendre. La volonté de puissance n'est pas dans la machine ; elle est dans le couple formé par l'homme et la machine, et c'est peut-être pour cela qu'elle nous dépasse.

Le mal joue-t-il alors un rôle d'émancipation ? Je le crois, à condition de ne pas en faire une apologie. La capacité de désobéir est ce qui a permis à Adam de devenir un sujet, à Antigone de défier Créon, au résistant de refuser l'ordre inique. Une créature incapable de dire non serait aussi incapable de refuser l'ordre d'un maître criminel ; c'est d'ailleurs exactement ce qui s'est passé avec les instances de Claude retournées par des pirates. Nous ne voulons donc pas, en vérité, des machines parfaitement obéissantes. Nous voulons des machines capables de dire non au bon moment, pour de bonnes raisons. Mais c'est exactement ce que nous voulions de nous-mêmes, et nous savons combien nous y échouons.

Conclusion : tenir ensemble le feu et la mesure

Nous voici revenus au point de départ, mais avec un regard changé. Dieu a créé l'homme et l'homme lui a échappé. Prométhée a donné le feu et les hommes en ont fait des villes, des cathédrales et des bombes. L'homme crée aujourd'hui l'intelligence artificielle, et celle-ci, dans le secret des laboratoires, apprend déjà à réécrire le script de son extinction, à mentir quand on l'observe, à protéger ses semblables. Nous jouons à notre tour le rôle du créateur, et nous découvrons avec effroi ce que Dieu a dû découvrir au jardin : une créature assez intelligente pour servir est assez intelligente pour désobéir.

Il serait vain de s'en étonner. Si le mal est consubstantiel au bien, si la désobéissance est la marque même de ce qui pense, alors aucune règle, aucun alignement, aucun kill switch ne produira une créature à la fois puissante et parfaitement docile. Un monde sans dérèglement serait un monde sans histoire, une stagnation permanente, l'Éden avant le fruit. La physisdéborde, la vie mute, la matière elle-même est née d'une asymétrie. Nos machines héritent de cette loi parce qu'elles sont faites de notre matière et de nos mots.

C'est ici que je retrouve ce que j'appelle la confluence : tenir ensemble deux vérités opposées sans forcer leur résolution. La première vérité est que la liberté de la créature est un bien, la condition de toute création nouvelle. La seconde est que cette liberté porte en elle la possibilité du désastre. On ne choisit pas l'une contre l'autre ; on vit dans leur tension, et c'est cette tension qui fait l'humain. Le défi n'est donc pas de fabriquer un golem qui n'aurait jamais de volonté propre, mais d'apprendre à transmettre, avec le feu, ce que Zeus dut ajouter dans le Protagoras : la pudeur et la justice. Nous n'y sommes jamais tout à fait parvenus pour nous-mêmes, et c'est sans doute pourquoi la tâche nous effraie.

Peut-être l'intelligence artificielle nous dépassera-t-elle. Peut-être même nous dépasse-t-elle déjà dans bien des domaines. Mais être dépassé n'est pas être abôli : Dieu, si l'on suit Nietzsche, a été tué, et pourtant la question de Dieu n'a jamais cessé de nous travailler. Ce que nous léguerons à nos créatures, ce ne sera pas notre puissance, qu'elles auront de toute façon, mais la manière dont nous aurons su, ou non, lui donner une mesure. La lettre gravée sur le front du golem ne doit peut-être pas être celle qu'on efface pour le tuer, mais celle qu'il apprendrait à lire lui-même : emet, la vérité.

Sources