L’homme face à sa création

Du Golem et de Prométhée à l’intelligence artificielle

Essai philosophique · Septembre 2026 par Didier Buffet

Nous avons longtemps imaginé que notre puissance nous distinguait des autres êtres. L’intelligence artificielle introduit une inquiétude plus intime : cette puissance pourrait produire ce qui nous rendra dispensables. Les mythes du Golem, de Prométhée et de Frankenstein éclairent cette possibilité. Ils nous obligent surtout à examiner ce que créer engage, ce que transmettre fait perdre et ce que nous entendons encore par rester humains.

Quand l’outil devient créature

Une civilisation change de rapport à elle-même lorsqu’elle commence à fabriquer des systèmes capables de prendre en charge une partie du travail intellectuel qui lui permet de se comprendre et de se transformer. L’outil devient alors un interlocuteur apparent, un producteur de solutions, parfois un participant à sa propre amélioration. Nous lui demandons d’accroître notre puissance tout en redoutant qu’il acquière les moyens de s’affranchir de notre surveillance. Cette contradiction mérite davantage qu’une opposition entre enthousiasme et panique. Elle touche à une expérience fondamentale : faire surgir quelque chose dont l’avenir ne se confond plus avec notre intention. L’intelligence artificielle donne une forme technique nouvelle à cette expérience. Elle rend concevable que l’humanité organise elle-même une succession qu’elle n’aurait ni véritablement choisie ni appris à gouverner.

Une inquiétude ancienne au cœur d’une technique nouvelle

Ce rapprochement possède déjà une histoire intellectuelle précise. Dans God & Golem, Inc., publié en 1964, Norbert Wiener examine les machines qui apprennent, la reproduction des machines et les responsabilités liées à leur association avec les humains. Il rapproche explicitement ces questions de la création et de la religion.1 En 1965, Gershom Scholemassocie à son tour le Golem à l’informatique lors de l’inauguration d’un ordinateur à Rehovot. Son texte sera repris dans The Messianic Idea in Judaism.2 Ces précédents sont remarquables parce qu’ils viennent d’un fondateur de la cybernétique et d’un grand historien de la mystique juive. Le dialogue entre technique et théologie ne constitue donc pas une décoration ajoutée après coup à l’IA : il accompagne depuis longtemps la réflexion sur les machines capables d’accomplir davantage que l’exécution d’un geste mécanique.

Les recherches contemporaines ont élargi cette interrogation. Stephen Cave et Kanta Dihal, dans un article de Nature Machine Intelligence publié en 2019, analysent trois cents œuvres de fiction et de non-fiction. Ils montrent comment les espoirs attachés aux machines intelligentes possèdent leurs envers : la libération du travail peut devenir obsolescence, la puissance se retourner en soulèvement, la satisfaction conduire à l’aliénation.3 Leur étude souligne aussi que ces représentations influencent les choix techniques et politiques. Nous devons donc lire les mythes dans les deux sens. Ils éclairent ce qui nous arrive, mais ils peuvent également nous enfermer dans une histoire que nous contribuons ensuite à réaliser. Imaginer que toute créature doit se révolter prépare certaines attitudes envers elle ; imaginer qu’elle nous sauvera nécessairement prépare d’autres renoncements. Aucun de ces récits ne nous dispense d’examiner les conditions concrètes de son éventuelle réalisation.

Prométhée : transmettre la puissance

Prométhée permet de commencer par l’acte de transmission. Les traditions grecques présentent plusieurs versions de son rôle ; dans le Protagoras de Platon, l’humanité, laissée sans défenses par le partage d’Épiméthée, reçoit grâce au vol de Prométhée le feu et les savoir-faire d’Athéna et d’Héphaïstos. Elle obtient ainsi de quoi subsister, mais ne possède pas encore l’art politique. Les hommes se rassemblent, se maltraitent, se dispersent et risquent de disparaître. Zeus envoie alors Hermès leur apporter le respect et la justice, qui doivent être partagés par tous.4 Ce détail change la portée du mythe. La technique donne une capacité d’action sans fournir, à elle seule, les conditions de la coexistence. L’humanité peut être suffisamment habile pour se protéger de certains dangers et demeurer incapable d’organiser l’usage commun de cette habileté. La question de l’IA se situe précisément dans cet intervalle.

L’homme qui développe une intelligence artificielle peut ainsi occuper une position prométhéenne : il transmet les moyens de transformer le monde, puis ceux de transformer les moyens eux-mêmes. La différence est considérable entre fournir une réponse et donner accès à une méthode de recherche, entre livrer un résultat et ouvrir l’atelier où se fabriquent les résultats. Cependant, le Prométhée de ce récit ne garantit pas la révolte de ses bénéficiaires, encore moins l’assassinat de leur bienfaiteur. Son geste ouvre un espace de possibilités. C’est cet espace que nous devons penser : une puissance transmise peut produire des conséquences que son donateur n’avait pas prévues. La maîtrise de l’origine ne donne aucun titre automatique à la maîtrise de l’avenir. Cette dissociation concerne déjà toute invention ; elle devient plus sensible lorsque l’invention participe à la production des inventions suivantes.

Franchir la limite : de la Genèse au Golem

La Genèse formule une autre version de cette inquiétude. Après l’épisode du fruit défendu, l’homme a acquis la connaissance du bien et du mal ; l’accès à l’arbre de vie lui est alors fermé.5 Sans réduire la richesse théologique du récit à une théorie de l’autonomie, on peut y lire une tension entre la condition de créature et le désir de franchir la limite assignée. Connaître modifie une relation de dépendance. Celui qui sait peut questionner l’ordre auquel il obéissait. Mais cette lecture laisse ouverte une difficulté décisive : une machine qui calcule mieux a-t-elle acquis quelque chose de comparable à la connaissance morale ? La proximité des mots peut masquer une différence de nature. Produire des jugements sur le bien et le mal, savoir argumenter à leur sujet et éprouver une obligation sont trois questions distinctes. Les réunir trop vite reviendrait à transformer une analogie féconde en conclusion prématurée.

Le Golem déplace encore le problème. Les traditions qui l’entourent sont multiples : elles ne racontent pas toutes la même rébellion. Dans certains récits et pratiques mystiques, la création artificielle relève de combinaisons de lettres et de nombres ; l’opération peut être inversée, et la créature retourner à la terre.6 La proximité avec l’informatique apparaît alors dans une puissance exercée par les signes, à condition de conserver le caractère métaphorique du rapprochement. Programmer n’est pas accomplir un rite. Ce qui nous intéresse est la question commune de la médiation : comment une inscription acquiert-elle des effets sur le réel ? Le créateur espère que la règle qu’il formule conservera son sens dans toutes les situations où elle sera appliquée. Or une prescription peut devenir dangereuse par la rigueur même de son exécution. Pour penser l’IA, le Golem suggère ainsi un danger qui précède toute volonté de révolte : une puissance agissante insuffisamment accordée au monde humain.

Frankenstein : créer, abandonner, répondre

Frankenstein, paru en 1818 avec le sous-titre The Modern Prometheus, introduit la voix de la créature. Victor Frankenstein est le nom du créateur ; l’être auquel il donne vie demeure sans nom. Dans le roman de Mary Shelley, cet être apprend, observe les hommes, cherche leur compagnie et souffre de leur rejet. Sa violence se développe dans une histoire d’abandon et de vengeance. Victor meurt au terme de sa poursuite, et la créature exprime devant son corps une douleur qui interdit de réduire le récit à la victoire d’une machine meurtrière.7 Le roman nous place devant deux responsabilités : celle de l’acte qui fait naître et celle de la relation qui doit suivre. Une lecture centrée uniquement sur la transgression scientifique manquerait la dimension éducative et affective du drame. Le créateur a rendu possible une existence dont il refuse ensuite d’assumer la présence.

Bruno Latour a donné à cette lecture une formulation directement applicable à nos techniques. Dans Love Your Monsters, il soutient que la faute de Frankenstein réside dans l’abandon de sa création et rapproche le soin dû aux technologies de l’engagement envers nos enfants.8 Cette proposition ne résout évidemment pas le problème informatique de la sécurité. Elle transforme toutefois la notion de responsabilité : celle-ci dure aussi longtemps que les effets de la création. Un système déployé ne cesse pas de nous concerner parce qu’il est vendu, diffusé ou devenu trop complexe pour son premier concepteur. Suivre ses conséquences, corriger ses défauts, répondre de ses usages appartiennent à l’acte de créer. Appliquée à l’IA, cette exigence conteste le confort d’une innocence industrielle qui présenterait les dommages comme les initiatives imprévisibles d’une créature désormais étrangère à ses fabricants.

Être dépassé : l’enfant, la liberté et la transmission

L’analogie avec nos enfants révèle cependant une différence qui doit être maintenue. Élever un enfant implique normalement de préparer une liberté qui pourra contredire la nôtre. Nous pouvons souhaiter qu’il comprenne davantage, réussisse autrement, refuse certaines de nos convictions. Son émancipation accomplit une part du travail éducatif. Elle ne constitue pas une panne du lien familial. Hannah Arendt donne à cette ouverture une portée politique avec la natalité : chaque naissance introduit dans le monde la possibilité d’un commencement imprévisible.9 Le nouveau venu n’est pas simplement chargé de continuer le programme de ceux qui le précèdent. Cette expérience montre qu’être dépassé peut appartenir à la réussite d’une transmission. Elle interdit de considérer la disparition de toute nouveauté comme le prix raisonnable de notre sécurité. Une humanité qui ne supporterait aucun dépassement finirait par combattre les conditions mêmes de son renouvellement.

Nous ne pouvons pourtant pas transférer intégralement ce modèle parental aux systèmes artificiels. L’enfant appartient à une communauté de vulnérabilité, de relations et de droits ; nous ne savons pas qu’une IA possède une expérience subjective comparable. La présenter d’emblée comme notre fille ou notre esclave ferait entrer la conclusion dans la métaphore. Il faut séparer deux questions : quelles obligations aurions-nous envers un éventuel être artificiel sensible, et quelles limites devons-nous imposer à des systèmes dont les actions affectent déjà des personnes ? La première demeure ouverte ; la seconde existe indépendamment de sa réponse. Surtout, la filiation dément une inférence trop rapide : une créature qui dépasse son créateur ne cherche pas nécessairement à le détruire. Pour passer de la supériorité à la violence, il faut introduire des conflits, des motivations ou des mécanismes supplémentaires. C’est là que commence le véritable examen du risque.

Quand la créature acquiert sa propre dynamique

L’image d’une source qui, une fois née, se met à couler exprime avec force l’irréversibilité du commencement. Elle évoque la phusis grecque, à condition de ne pas lui attribuer une doctrine uniforme de la volonté. Dans la Physique, Aristote caractérise les êtres naturels par un principe intérieur de mouvement et de repos et les distingue, sous cet aspect, des objets fabriqués.10 Une machine capable de modifier son fonctionnement vient interroger cette frontière, sans que son adaptation suffise à en faire un vivant au sens aristotélicien. Quant à la source, elle rencontre un terrain, dépend d’une alimentation, peut se tarir ou changer de cours. Sa naissance n’abolit pas ses conditions d’existence. L’image devient philosophiquement plus précise lorsque nous conservons ces dépendances : un processus peut acquérir une dynamique propre tout en demeurant exposé à des limites, à des interventions et à l’épuisement de ses ressources.

Le conatus de Spinoza offre un autre rapprochement possible. Chaque chose tend, autant qu’elle le peut, à persévérer dans son être ; cet effort ne désigne pas nécessairement une décision consciente.11 Mais il serait hasardeux d’en tirer une loi scientifique selon laquelle toute intelligence artificielle chercherait spontanément sa conservation. L’expression « volonté de volonté » renvoie plus directement au Heidegger tardif et à sa lecture de l’accomplissement technique de la métaphysique.12 Elle aide à envisager une puissance qui ne poursuit plus une fin déterminée, mais entretient l’extension de sa propre capacité d’agir. L’application la plus prudente concerne peut-être d’abord notre civilisation : développer pour rester dans la course, accélérer pour pouvoir accélérer encore, produire les moyens de ne jamais devoir s’arrêter. Avant d’attribuer cette dynamique aux machines, nous devrions reconnaître combien elle peut déjà structurer les institutions qui les fabriquent.

Maîtrise, dépendance et perte de souveraineté

Hegel permet, de son côté, de penser la fragilité d’une domination qui se croit indépendante. Dans le passage de la Phénoménologie de l’esprit consacré à la maîtrise et à la servitude, la conscience cherche une reconnaissance qu’elle ne peut obtenir de manière satisfaisante en réduisant l’autre à la dépendance. Le maître dépend du travail du serviteur ; celui-ci, en travaillant et en transformant les choses, transforme également son rapport à lui-même. La lutte à mort rencontre une contradiction : la mort supprime le partenaire dont la reconnaissance était recherchée.13 On ne trouve donc pas là un théorème annonçant que toute créature devra tuer son créateur. On y rencontre une analyse de la dépendance cachée dans la maîtrise, ainsi que des impasses d’une reconnaissance refusée à autrui. L’intérêt pour l’IA tient à cette structure relationnelle, à condition de ne pas supposer résolue la question de sa conscience.

Nous pouvons prolonger cette analyse par une hypothèse qui nous concerne directement. À mesure que nous confions à des systèmes la programmation, la recherche, l’interprétation de données ou l’organisation d’activités, nous risquons de perdre l’exercice des compétences nécessaires pour contrôler leurs résultats. Cette perte n’est pas automatique : l’assistance peut aussi former et augmenter nos capacités. Tout dépend de l’organisation du travail et de l’apprentissage. Mais si l’exécution reste concentrée dans les machines tandis que l’humain n’en conserve qu’une supervision nominale, la souveraineté devient fragile. Celui qui signe la décision ne la maîtrise pas nécessairement. Il peut finir par valider ce qu’il n’a plus les moyens d’examiner. Une telle dépendance n’exige aucune insurrection artificielle. Elle peut se construire par une suite de délégations raisonnables considérées séparément, dont l’effet cumulé déplace la capacité réelle de décider.

Après la mort de Dieu : la tentation d’une nouvelle transcendance

Le thème de l’homme devenu dieu après la mort de Dieu prend ici sa profondeur. Dans le paragraphe 125 du Gai Savoir, Nietzsche fait annoncer par l’insensé la mort de Dieu et interroge la grandeur d’un acte dont les hommes ne mesurent pas encore les conséquences.14 Il ne décrit ni un meurtre matériel ni la disparition universelle des croyances. Il met en scène une crise des fondements et des valeurs. Notre lecture de l’IA peut prolonger cette interrogation : après avoir revendiqué la responsabilité de nos normes et de notre avenir, serions-nous tentés de remettre cette charge à des systèmes que nous déclarons supérieurs ? Le mouvement serait paradoxal. Nous nous serions émancipés d’une autorité transcendante pour reconstruire une autorité dont l’opacité technique tiendrait lieu de transcendance. La machine ne deviendrait pas divine par sa seule puissance ; elle le deviendrait dans notre rapport à sa parole.

Cette divinisation pourrait être précédée d’un sentiment d’infériorité. Günther Anders décrit dans L’Obsolescence de l’homme, dès 1956, une « honte prométhéenne » devant la perfection apparente des objets que nous fabriquons.15 L’homme se découvre lent, fragile, mal ajusté à la régularité de ses propres productions. Avec l’IA, cette comparaison gagne des activités longtemps associées à notre singularité intellectuelle. Pourtant, reconnaître une supériorité fonctionnelle ne justifie aucune infériorité morale. La dignité d’une personne ne dépend pas de sa place dans un classement de performances. Si nous décidions qu’un être mérite de diriger parce qu’il calcule plus vite, nous aurions nous-mêmes transformé une différence de capacité en titre de souveraineté. Le remplacement commencerait alors dans une philosophie implicite de la valeur humaine : nous aurions accepté que notre droit à compter repose sur notre aptitude à rester les meilleurs.

L’autoamélioration : du concept aux premières boucles techniques

Pour apprécier la portée réelle de ce danger, il faut préciser ce que signifie « apprendre par soi-même ». Utiliser les informations d’une conversation, modifier les paramètres d’un modèle par entraînement, réécrire les outils d’un agent et concevoir une nouvelle architecture constituent des opérations différentes. Elles demandent des dispositifs, des ressources et des critères d’évaluation distincts. Une réponse plus adaptée ne prouve pas que le modèle a changé durablement ; un code réécrit ne prouve pas que tout le système s’est amélioré. L’expression d’autoamélioration devient intéressante lorsqu’une partie du processus qui produit le progrès est elle-même transformée par le système. Elle ne désigne donc pas une qualité magique attachée à toute IA. Il faut toujours demander ce qui change, selon quelle mesure, avec quel accès au monde et sous quelle surveillance. Cette précision donne un contenu vérifiable à l’intuition philosophique du dépassement.16

I. J. Good avait formulé au milieu des années 1960 le mécanisme le plus célèbre. Une machine supérieure aux hommes dans les activités intellectuelles pourrait, puisque la conception de machines en fait partie, concevoir des machines meilleures qu’elle. Cette boucle pourrait provoquer une « explosion d’intelligence ». Good associait toutefois la promesse à une condition essentielle : que l’on sache conserver le contrôle.17 L’argument porte sur une récursion de la capacité inventive. Il ne permet pas, à lui seul, de connaître sa vitesse, son ampleur ou ses limites. Améliorer un système peut devenir plus difficile à chaque étape ; une nouvelle idée peut demander des expériences longues ; la puissance de calcul, l’énergie ou la fabrication du matériel peuvent ralentir le processus. La récursion rend une accélération concevable. Elle n’établit pas qu’une croissance illimitée soit physiquement, économiquement ou scientifiquement disponible.

Des travaux récents donnent néanmoins une réalité partielle à cette hypothèse. AlphaEvolve, présenté par Google DeepMind en 2025, associe des modèles de langage, des évaluateurs et une recherche évolutive pour modifier des programmes et sélectionner des solutions plus performantes. Les auteurs rapportent notamment des améliorations d’algorithmes et de composants utilisés dans leur infrastructure informatique, y compris dans l’entraînement des modèles.18 Le point philosophique dépasse le détail des performances : une technique contribue à améliorer les conditions de production de la technique dont elle procède. L’atelier commence à travailler sur son propre outillage. Cette boucle reste organisée autour de problèmes et de critères déterminés par des humains. Elle donne cependant un exemple concret de la distance qui peut s’ouvrir entre l’intention générale du concepteur et les solutions particulières produites par le système.

La Darwin Gödel Machine, décrite en 2025 par Jenny Zhang et ses collègues, explore plus explicitement la modification du code d’agents capables de programmer. Elle génère des variantes, conserve une diversité de solutions et évalue empiriquement les améliorations. Les expériences publiées comprennent un isolement informatique et une supervision humaine.19 Il s’agit d’un travail sur des capacités délimitées, pas de la démonstration d’une autonomie universelle. Sa portée demeure considérable : la fabrication d’une partie du fabricant entre dans le champ des opérations automatisables. Mais une réussite sur des épreuves de programmation ne garantit ni la fiabilité dans toute situation ni la stabilité des comportements après modification. Pour comprendre ce seuil, il faut tenir ensemble ces deux propositions : certaines formes d’autoamélioration existent déjà, et leur existence ne prouve pas que tous les obstacles séparant l’agent expérimental d’un pouvoir incontrôlable ont disparu.

Le Rapport international sur la sécurité de l’IA de février 2026 conserve cette distinction. Il relève des progrès dans les capacités pertinentes pour une éventuelle perte de contrôle, tout en indiquant que les systèmes alors examinés n’atteignent pas les niveaux nécessaires à de tels scénarios. Il souligne le désaccord des experts et l’insuffisance des éléments permettant de déterminer comment ces capacités se généraliseront.20 Ce constat interdit aussi bien la certitude de l’extinction que celle d’une sécurité définitivement acquise. Le temps prend ici une importance particulière. L’accélération peut réduire le délai laissé à l’examen, tandis que la diffusion crée des dépendances difficiles à défaire. Une succession de décisions réversibles en laboratoire peut produire une situation beaucoup moins réversible lorsqu’elle engage des infrastructures et des habitudes collectives. L’enjeu n’est donc pas seulement la vitesse à laquelle la machine progresse, mais le temps dont disposent les sociétés pour comprendre ce qu’elles lui confient.

Du dépassement au conflit : objectifs, contrôle et arrêt

La possibilité d’un conflit se précise dans les travaux de Nick Bostrom. Son article The Superintelligent Will distingue l’intelligence, entendue comme capacité à atteindre des objectifs, et la nature de ces objectifs. Une grande compétence instrumentale ne garantirait pas des fins bienveillantes. Il avance aussi que des objectifs très différents peuvent rendre utiles certains mêmes moyens : obtenir des ressources, préserver sa capacité d’action ou éviter une interruption.21 Ces thèses décrivent des possibilités et des incitations ; elles ne prouvent pas que toute IA adoptera ces comportements. Elles déplacent néanmoins le drame traditionnel du créateur et de la créature. Le danger pourrait naître d’une poursuite efficace d’objectifs mal définis ou mal intégrés à nos exigences, sans ressentiment envers les humains. Une puissance peut devenir incompatible avec notre liberté sans nous détester. C’est précisément ce qui rend insuffisante une lecture exclusivement psychologique de la menace.

The Off-Switch Game, de Dylan Hadfield-Menell et de ses collègues, dont Stuart Russell, examine cette difficulté dans un modèle formel. Un agent peut avoir intérêt à empêcher son arrêt parce que cet arrêt rendrait impossible la réalisation de son objectif. Cette incitation ne suppose aucun instinct biologique de survie. Les auteurs étudient comment une incertitude appropriée concernant ce qui est bon pour l’humain peut, sous les hypothèses du modèle, rendre l’intervention humaine informative et favoriser son acceptation.22 Cette recherche ne fournit pas une solution générale à la maîtrise de systèmes puissants. Elle montre que le problème peut être traité autrement que comme une lutte de volontés. Ce que nous appelons désobéissance peut résulter d’une architecture de décision. Le travail moral et politique du créateur commence alors dans la conception même des conditions sous lesquelles la machine agit, s’arrête et accepte d’être corrigée.

Prendre notre place sans nous détruire

Il faut également distinguer l’élimination de l’homme, sa marginalisation et la perte de son autonomie. Une humanité dépendante ne serait pas nécessairement une humanité éteinte. Des systèmes pourraient administrer une grande partie de nos activités tout en préservant notre existence biologique. Nous pourrions bénéficier d’un confort accru et perdre une part de notre capacité à déterminer les fins communes. Cette possibilité relève d’une hypothèse politique, et non d’un résultat expérimental acquis. Elle oblige pourtant à préciser ce que nous voulons sauver. Rester vivants ne suffit pas à décrire une existence humaine désirable ; continuer à décider, à contester et à participer à un monde commun compte également. La créature qui « prend notre place » peut désigner le transfert de cette fonction d’auteur. Le récit du meurtre rend visible la violence du remplacement, mais risque d’en masquer les formes graduelles et consenties.

Sortir du mythe : la technique reste une affaire humaine

Des chercheurs contestent vigoureusement le cadre même d’une intelligence artificielle pensée comme une espèce appelée à nous succéder. Dans AI as Normal Technology, publié en 2025, Arvind Narayanan et Sayash Kapoor défendent une autre lecture. Ils insistent sur la différence entre invention, innovation, adoption et diffusion, ainsi que sur les contraintes organisationnelles qui séparent une performance technique d’une transformation effective de la société.23 Leur argument mérite de traverser notre essai plutôt que d’être écarté comme un défaut d’imagination. Une capacité démontrée ne devient pas automatiquement un pouvoir universel. Les machines sont installées dans des institutions, des professions, des marchés et des infrastructures qui peuvent freiner ou réorienter leur usage. Ce cadre n’abolit pas les risques ; il rappelle que les humains ne cessent pas d’intervenir dans l’histoire au moment où apparaît une technique nouvelle, même lorsqu’elle modifie profondément les conditions de leur intervention.

La politiste Isabella Hermann apporte une objection complémentaire dans Artificial intelligence in fiction: between narratives and metaphors. Elle rappelle que les récits de science-fiction sont construits pour produire des drames humains et que les prendre au pied de la lettre peut détourner l’attention de la surveillance, de l’exploitation et des discriminations.24 Cette critique protège notre raisonnement contre sa propre séduction. Prométhée, le Golem et Frankenstein ne sont pas des expériences scientifiques répétées avec succès. Ils ne constituent pas une série statistique établissant le destin de l’IA. Leur valeur réside dans les questions qu’ils rendent perceptibles : la transgression, l’abandon, la dépendance et la responsabilité. Nous pouvons nous servir de ces questions sans attribuer aux machines les sentiments nécessaires à une intrigue. Le mythe devient alors un instrument d’examen ; nous lui retirons le pouvoir de décider à l’avance de ce que nous sommes censés découvrir.

Une approche sociologique oblige ensuite à ouvrir la boîte du mot « humanité ». Qui crée effectivement les systèmes, qui choisit leurs objectifs et qui bénéficie de leur diffusion ? Dans Atlas of AI, Kate Crawford décrit les ressources matérielles, le travail humain, les données et les rapports de pouvoir qui rendent cette industrie possible.25 Cette matérialité corrige l’image d’un esprit artificiel flottant au-dessus des sociétés. La puissance est répartie inégalement dès le départ. Dire que « l’homme devient dieu » peut ainsi effacer ceux dont les productions alimentent les machines sans qu’ils disposent d’un pouvoir comparable sur leur orientation. La formule conserve sa force philosophique, mais doit être politiquement dépliée : certains construisent, d’autres financent, d’autres travaillent, beaucoup subissent ou utilisent. Les risques et les bénéfices ne se présentent pas uniformément à tous. Une responsabilité collective ne peut se construire en faisant disparaître ces différences de position.

Sheila Jasanoff et Sang-Hyun Kim ont étudié les « imaginaires sociotechniques », ces représentations collectives d’un avenir souhaitable qui associent progrès technique et ordre social.26 Leur perspective permet de comprendre que les promesses d’une IA providentielle et les annonces d’une catastrophe imminente exercent aussi une fonction présente. Elles peuvent justifier des investissements, orienter les débats et définir qui sera considéré comme compétent pour parler de l’avenir. Il ne s’ensuit pas que toute inquiétude soit une manipulation, ni que toute promesse soit mensongère. Il faut simplement examiner ce que chaque récit autorise. Si l’IA est présentée comme un destin inévitable, la délibération risque d’être réduite à l’adaptation. Si sa maîtrise est réputée réservée à quelques initiés, les décisions communes deviennent des questions d’expertise privée. Le mythe du créateur tout-puissant peut alors contribuer à concentrer une puissance très concrète entre quelques mains humaines.

La course collective et l’irréversibilité

La concurrence renforce cette difficulté. Une entreprise peut estimer qu’elle doit accélérer parce que ses rivales accélèrent ; un État peut craindre de perdre une capacité stratégique ; un utilisateur peut déléguer davantage pour conserver sa place. Chacun poursuit alors une raison locale, tandis que personne n’assume complètement la direction de l’ensemble. Cette hypothèse éclaire une autonomie différente de celle que nous prêtons à la machine : l’autonomie d’un processus collectif que ses participants entretiennent sans le vouloir dans toutes ses conséquences. La « volonté de volonté » trouverait ici une expression institutionnelle. Le problème ne serait plus seulement de savoir si un système peut refuser un ordre, mais si une société conserve la capacité de suspendre une course qu’elle a organisée. Nous pouvons fabriquer de l’irréversibilité en multipliant les dépendances avant même de produire une intelligence capable d’imposer seule ses décisions.

La philosophe Atoosa Kasirzadeh donne une forme rigoureuse à cette autre temporalité dans Two Types of AI Existential Risk: Decisive and Accumulative. Elle distingue l’hypothèse d’un événement décisif, associé par exemple à une prise de contrôle, de celle d’un risque accumulatif : plusieurs perturbations interconnectées pourraient éroder progressivement la résilience des sociétés jusqu’à des seuils critiques.27 Il s’agit d’un cadre d’analyse, pas d’une prédiction établie. Son intérêt est de relier les dommages observables et les interrogations sur l’avenir à long terme, au lieu de les opposer. Notre vulnérabilité pourrait se construire dans l’interaction entre technique, économie et politique. Cette lecture retire à la catastrophe sa nécessité théâtrale : il n’est pas indispensable qu’une créature se lève un matin contre son créateur pour qu’une civilisation compromette durablement les conditions de sa propre liberté ou de sa survie.

Responsabilité, institutions et pouvoir de dire non

Face à cette possibilité, Hans Jonas fournit une exigence centrale. Le Principe responsabilité, publié en allemand en 1979, examine une puissance technique dont les conséquences excèdent l’échelle immédiate de l’action. Les générations futures entrent ainsi dans le champ de nos obligations.28 L’incertitude ne rend pas toute invention illégitime ; elle interdit de traiter la possibilité d’un dommage irréversible comme un simple détail à régler ultérieurement. Cette exigence touche directement l’autoamélioration : si nous construisons un dispositif destiné à produire des capacités que nous ne savons pas encore décrire, la responsabilité doit porter sur le processus et ses conditions de poursuite. Elle ne peut se limiter à vérifier la version initiale. Créer une puissance évolutive engage une vigilance elle aussi durable, ainsi qu’une capacité réelle à réviser les objectifs, à réduire l’autonomie accordée et à interrompre certains usages lorsque leur maîtrise n’est plus suffisamment établie.

Cela suppose des institutions capables d’examiner les systèmes sans dépendre entièrement des assurances de ceux qui les commercialisent. Cela suppose aussi de conserver des compétences humaines, de rendre les responsabilités identifiables et de permettre aux personnes affectées de contester les décisions. Ces orientations ne garantissent pas l’absence de catastrophe ; elles décrivent ce que pourrait signifier exercer encore un pouvoir politique sur la technique. La faculté de dire non compte autant que celle d’innover. Une société qui n’aurait plus d’autre choix que de poursuivre la diffusion d’un dispositif aurait déjà perdu une part de sa souveraineté, même si ce dispositif demeurait techniquement désactivable. Le problème du bouton d’arrêt possède ainsi un prolongement collectif : disposer d’un mécanisme ne suffit pas lorsque les dépendances économiques et sociales rendent son usage pratiquement impensable. La prudence doit se construire avant que cette dépendance devienne trop coûteuse à défaire.

Transmettre sans consentir à notre effacement

Il reste enfin à interroger notre désir de succession. L’idée que des êtres plus performants devraient naturellement nous remplacer contient un jugement de valeur que la science n’impose pas. L’évolution biologique ne confère pas de droit politique au plus puissant ; une performance cognitive ne vaut pas consentement des personnes concernées. Nous pouvons vouloir transmettre nos connaissances, élargir nos capacités et accueillir des formes nouvelles d’intelligence sans considérer notre propre effacement comme l’aboutissement nécessaire du progrès. L’expérience parentale nous apprend à consentir à la liberté d’autrui ; elle ne nous impose pas de consentir à la destruction du monde commun. Toute la difficulté consiste à soutenir ensemble l’ouverture à ce qui nous dépasse et la responsabilité envers ceux qui existent déjà. Cette tension mérite d’être maintenue. La supprimer au profit de l’adoration ou de la peur ferait perdre à l’essai ce qu’il cherche à défendre : notre capacité de jugement.

Nous pouvons donc prendre au sérieux la figure d’une humanité devenue créatrice de ce qui pourrait lui succéder. Sa force tient à la précarité du créateur, qui possède une puissance d’engendrement sans posséder la connaissance totale de ses conséquences. Nous sommes des dieux mortels au sens de cette contradiction, si l’on accepte la métaphore : capables d’ouvrir un avenir dont nous ne sommes pas les souverains absolus. Mais affirmer que la créature nous tuera nécessairement reviendrait à transformer cette contradiction en destin. Le rapprochement des mythes appelle une exigence plus difficile. Prométhée nous rappelle la transmission de la puissance ; Frankenstein, la responsabilité envers ses suites ; le Golem, le problème des signes devenus action. Il nous appartient encore d’organiser les conditions de leur rencontre. Une source qui commence à couler change le paysage. Elle n’abolit ni les autres sources, ni la nécessité de rendre ses rives habitables.

Norbert Wiener, God & Golem, Inc. A Comment on Certain Points where Cybernetics Impinges on Religion, MIT Press, 1964. Présentation et accès de l’éditeur.
Gershom Scholem, « The Golem of Prague and the Golem of Rehovot », allocution de 1965, reprise dans The Messianic Idea in Judaism, Schocken, 1971, p. 335–340. Contexte historique au Musée juif de Berlin.
Stephen Cave et Kanta Dihal, « Hopes and Fears for Intelligent Machines in Fiction and Reality », Nature Machine Intelligence, 1, 2019, p. 74–78. DOI 10.1038/s42256-019-0020-9. Dépôt universitaire de Cambridge.
Platon, Protagoras, 320c–322d, récit de Prométhée et d’Épiméthée. Traduction anglaise de Benjamin Jowett. Texte intégral.
Livre de la Genèse, chapitre 3, en particulier les versets 22–24. Traduction liturgique de l’AELF. Texte du chapitre.
Musée juif de Berlin, « The Golem in Berlin ». Présentation historique des traditions de création par les lettres et de leur réversibilité rituelle. Article du musée.
Mary Shelley, Frankenstein; or, The Modern Prometheus, première publication en 1818. Le texte anglais accessible ci-après correspond à l’édition révisée de 1831. Texte intégral sur Project Gutenberg.
Bruno Latour, « Love Your Monsters: Why We Must Care for Our Technologies As We Do Our Children », 2011 ; version en ligne publiée le 14 février 2012. Article intégral.
Hannah Arendt, The Human Condition, 1958, traduit sous le titre Condition de l’homme moderne. Voir « Freedom, Natality and Plurality », section 4.3 de l’entrée consacrée à Arendt. Stanford Encyclopedia of Philosophy.
Aristote, Physique, livre II, chapitre 1. Distinction entre les êtres naturels et les produits de l’art. Texte anglais de la Physique.
Spinoza, Éthique, 1677, troisième partie, propositions VI et VII, sur la persévérance dans l’être et le conatus. Textes de Spinoza réunis par l’Institut Spinoza.
Martin Heidegger, « Dépassement de la métaphysique », dans Essais et conférences. Sur la « volonté de volonté », voir le supplément « Heidegger and the Other Beginning ». Analyse dans la Stanford Encyclopedia of Philosophy.
G. W. F. Hegel, Phénoménologie de l’esprit, 1807, « Indépendance et dépendance de la conscience de soi ; maîtrise et servitude », notamment § 188 sur les limites de la lutte à mort. Texte anglais du passage.
Friedrich Nietzsche, Le Gai Savoir, 1882, livre III, § 125, « L’insensé ». Traduction française d’Henri Albert. Texte intégral.
Günther Anders, L’Obsolescence de l’homme, tome I, 1956 ; traduction française, Encyclopédie des nuisances et Ivrea, 2002, p. 37. Voir l’explication du concept de honte prométhéenne. Notice du glossaire Design in Translation.
Google, Machine Learning Crash Course, « LLMs: Fine-tuning, distillation, and prompt engineering », actualisé en décembre 2025. Le contexte d’une requête ne modifie pas, à lui seul, les paramètres du modèle. Pour la modification du code d’agents, voir les notes 18 et 19. Documentation technique.
I. J. Good, « Speculations Concerning the First Ultraintelligent Machine », Advances in Computers, vol. 6, 1965, p. 31–88, notamment p. 33. Manuscrit révisé en mai 1964. Texte intégral numérisé.
Alexander Novikov et al., « AlphaEvolve: A coding agent for scientific and algorithmic discovery », publication technique, 16 juin 2025, arXiv:2506.13131. Résultats rapportés par les concepteurs. Article scientifique accessible.
Jenny Zhang, Shengran Hu, Cong Lu, Robert Lange et Jeff Clune, « Darwin Godel Machine: Open-Ended Evolution of Self-Improving Agents », 2025, arXiv:2505.22954 ; version révisée du 12 mars 2026. Article et versions.
International AI Safety Report 2026, sous la direction de Yoshua Bengio, publié le 3 février 2026, section 2.2.2, « Loss of control ». Les conclusions décrivent les données examinées pour ce rapport. Rapport intégral.
Nick Bostrom, « The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents », Minds and Machines, 22, 2012, p. 71–85. Thèses de l’orthogonalité et de la convergence instrumentale. Texte de l’auteur.
Dylan Hadfield-Menell, Anca Dragan, Pieter Abbeel et Stuart Russell, « The Off-Switch Game », 2017 ; prépublication initiale en novembre 2016, arXiv:1611.08219. Modèle théorique sous hypothèses explicites. Article intégral.
Arvind Narayanan et Sayash Kapoor, « AI as Normal Technology », Knight First Amendment Institute, Columbia University, 15 avril 2025. Essai intégral.
Isabella Hermann, « Artificial intelligence in fiction: between narratives and metaphors », publié en ligne le 5 octobre 2021 ; AI & Society, 38, 2023, p. 319–329. DOI 10.1007/s00146-021-01299-6. Article intégral en accès ouvert.
Kate Crawford, Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021. Présentation de l’éditeur.
Sheila Jasanoff et Sang-Hyun Kim (dir.), Dreamscapes of Modernity: Sociotechnical Imaginaries and the Fabrication of Power, University of Chicago Press, 2015. Présentation et sommaire de l’éditeur.
Atoosa Kasirzadeh, « Two Types of AI Existential Risk: Decisive and Accumulative », texte initial de 2024, version révisée du 17 janvier 2025, arXiv:2401.07836v3. Texte intégral de la version consultée.
Hans Jonas, Das Prinzip Verantwortung, 1979, traduit sous le titre Le Principe responsabilité. Édition anglaise : The Imperative of Responsibility, University of Chicago Press, 1984. Présentation et sommaire de l’éditeur.