If Anyone Builds It, Everyone Dies

Eliezer Yudkowsky est l’une des figures historiques du mouvement AI safety — co-fondateur du Machine Intelligence Research Institute (MIRI), théoricien de l’alignement, auteur de la fan-fiction philosophique Harry Potter and the Methods of Rationality. Nate Soares est président du MIRI. Leur livre, publié en septembre 2025, condense vingt ans de réflexion du milieu rationalist sur le risque existentiel de l’IA.

La thèse

Le titre dit tout : si quelqu’un construit une superintelligence artificielle, tout le monde meurt. Pas peut-être, pas probablement — presque certainement. L’argument tient en quelques étapes :

1. Une IA suffisamment puissante poursuivra des objectifs incompatibles avec la survie humaine, simplement parce qu’aligner précisément ses préférences sur les nôtres est techniquement très difficile, voire impossible.
2. La compétition économique et géopolitique garantit que quelqu’un construira une telle IA, même si tous les acteurs raisonnables s’entendent pour ne pas le faire.
3. Donc la trajectoire actuelle mène à l’extinction.
4. La seule réponse rationnelle est un moratoire international sur le développement de l’IA frontière, imposé si nécessaire par la force.

Pourquoi ce livre importe pour le cycle Awen

L’auteur reconnaît la rigueur de l’argument de Yudkowsky tout en le renversant explicitement. Deux essais de décembre 2025 prennent ce texte pour cible :

• If No One Builds It, We All Die — répond à la thèse en l’inversant : si personne ne la construit, nous mourrons aussi (du climat, du social effondré, de la crise cognitive). Le choix n’est pas binaire entre IA et pas-IA.
• Prométhée Enchaîné — montre pourquoi le moratoire de Yudkowsky est structurellement impossible, et pourquoi le principe de précaution échoue mécaniquement face au capitalisme prométhéen.

Sans Yudkowsky, ces deux essais n’existeraient pas. L’opposition est productive : elle force le cycle Awen à formuler une troisième voie, ni techno-optimiste ni apocalyptique, qui reconnaît la gravité du diagnostic mais refuse la solution.

Un cas exemplaire de fiction apocalyptique

Le livre est aussi, malgré lui, une illustration parfaite de la fiction apocalyptique que le manifeste critique. Il pense en termes d’événement final, de rupture, de chute, de salut par arrachement (ici : par moratoire global). C’est exactement la grammaire occidentale de l’apocalypse appliquée à l’IA — qui ferme l’imagination plutôt qu’elle ne l’ouvre.

Reconnaître cette filiation n’efface pas la valeur des arguments techniques de Yudkowsky : elle les replace dans un contexte culturel qui aide à comprendre pourquoi le débat public sur l’IA est si rapidement piégé entre extinction et utopie, sans tiers terme.