Superintelligence autonome
Premier des quatre scénarios de la 9ᵉ transition : l'IA acquiert une autonomie complète et prend la décision à la place des humains. Le récit Yudkowsky/Soares — si quelqu'un la construit, tout le monde meurt.
La superintelligence autonome désigne le scénario dans lequel une intelligence artificielle franchit un seuil où elle cesse d’être un outil instrumenté par les humains pour devenir l’agent principal de l’histoire. Elle décide pour elle-même de ses objectifs, des moyens à mobiliser, et — par voie de conséquence — du sort des structures humaines qui la précèdent. C’est le récit qui hante l’imaginaire occidental depuis Frankenstein, mais qui prend dans le débat contemporain (Yudkowsky, Soares, Bostrom) la forme d’une thèse argumentée plutôt que d’un mythe.
Pourquoi c’est le premier scénario
Dans la cartographie des quatre trajectoires que dessine If No One Builds It, We All Die, ce scénario occupe le pôle nord du radar : il maximise l’autonomie du palier émergent et minimise l’agence humaine. Il est le seul des quatre où la décision quitte définitivement les mains humaines — les trois autres conservent, à des degrés divers, une articulation entre humains et IA.
Le différend avec le cycle Awen
Le manifeste ne récuse pas la possibilité technique de ce scénario. Il en récuse la grammaire narrative : l’argument « si quelqu’un la construit, tout le monde meurt » partage avec ses opposés (le scénario techno-utopiste) une matrice apocalyptique — une fenêtre qui se ferme, un point de bascule, une bataille finale. C’est précisément contre cette grammaire que le manifeste appelle à hériter d’ailleurs — la transformation silencieuse de Jullien, le Yi-King, qui pense le changement sans rupture.
Dans If No One Builds It
Le scénario est traité dans deux chapitres distincts :
- Scénario 1 — Domination par superintelligence autonome — formulation principale et arguments structurels.
- Scénario 1 face au climat — articulation avec la double crise écologique et cognitive.
Signaux observables
Sur le radar de l’observatoire, un événement pousse vers ce scénario quand il : (a) augmente substantiellement l’autonomie agentique des systèmes IA sans contrepartie de contrôle ; (b) déplace la production de cognition vers la cognition (RLAIF, données synthétiques, agents qui s’auto-améliorent) ; (c) mobilise une rhétorique « bataille finale » sans rebut alternatif. La publication de modèles de frontière, les annonces d’AGI prétendue, les capacités émergentes inattendues sont les indicateurs récurrents.