L'IA — L'Hubris Ultime et l'Effondrement Final de la Précaution
4.1 Créer l’intelligence : Le rêve démiurgique accompli
Si la domestication du feu fut le premier acte prométhéen, si la fission de l’atome marqua un sommet de l’hubris, l’intelligence artificielle représente quelque chose de qualitativement différent : la tentative de créer l’intelligence elle-même.
Tous les vols prométhéens précédents concernaient la matière ou l’énergie. Nous transformons la pierre en outil, l’atome en énergie, le gène en organisme modifié. Mais dans tous ces cas, nous restons les créateurs, les intelligences dirigeantes. Les outils restent outils, même sophistiqués.
Avec l’IA, nous franchissons une frontière ontologique : nous tentons de créer quelque chose qui pourrait nous égaler — voire nous dépasser — en intelligence. Nous ne créons plus simplement des artefacts puissants mais stupides. Nous créons potentiellement des agents capables de comprendre, d’apprendre, de décider, peut-être un jour de vouloir.
C’est l’accomplissement ultime du rêve démiurgique. Non plus transformer le monde, mais créer des créateurs. Non plus voler le feu aux dieux, mais devenir nous-mêmes dieux créateurs d’intelligences.
Cette ambition n’est pas nouvelle. Le Golem de la tradition juive, l’Homunculus des alchimistes, le Frankenstein de Mary Shelley — tous ces mythes expriment le fantasme et la terreur de créer la vie ou l’intelligence. Mais ce qui était fantasme devient possibilité technique réelle.
4.2 Pourquoi la moratoire est structurellement impossible
Face à cette perspective vertigineuse, certains — notamment Eliezer Yudkowsky et les “rationalistes” catastrophistes — appellent à une pause, une moratoire, voire un arrêt total du développement de l’IA jusqu’à ce que nous comprenions comment la “contrôler”.
Cette position semble raisonnable. Face à une technologie potentiellement existentielle dont nous ne maîtrisons pas le comportement, n’est-il pas prudent de ralentir, d’évaluer, de comprendre avant de continuer ?
Oui, ce serait prudent. Non, ce n’est pas possible.
Une moratoire ne peut fonctionner que si :
- Tous les acteurs pertinents l’acceptent (sinon les tricheurs prennent l’avantage)
- La conformité est vérifiable (sinon le respect est invérifiable)
- Le coût de non-participation excède le bénéfice de la triche
- Il existe une autorité capable d’imposer et de vérifier
Aucune de ces conditions n’est remplie pour l’IA.
Non-universalité : Les entreprises américaines, chinoises, européennes, israéliennes sont en compétition féroce. Même au sein d’un pays, les entreprises se concurrencent. Aucun acteur majeur n’acceptera volontairement de ralentir pendant que ses concurrents continuent.
La Chine ne se pliera jamais à une moratoire occidentale — ce serait stratégiquement suicidaire. Les États-Unis ne peuvent se permettre de ralentir si la Chine continue — ce serait céder l’avantage géopolitique. L’Union européenne, déjà en retard, ne peut se permettre de creuser encore l’écart.
Invérifiabilité : Comment vérifier qu’une entreprise ne continue pas secrètement l’entraînement de modèles plus puissants ? Les datacenters géants sont détectables, certes. Mais la frontière entre “recherche autorisée” et “développement interdit” est floue et manipulable. Un acteur peut prétendre faire de la “recherche de sécurité” tout en développant secrètement des capacités avancées.
Rationalité de la triche : Le bénéfice pour une entreprise qui continue pendant que les autres s’arrêtent est immense — avantage compétitif potentiellement écrasant, position de quasi-monopole, profits colossaux. Le coût de se faire prendre est faible — au pire des relations publiques négatives, aucune sanction réelle n’existe.
Dans cette structure d’incitations, la triche est rationnelle. Et si la triche est rationnelle pour chacun, personne ne respectera vraiment la moratoire.
Absence d’autorité : Qui imposerait cette moratoire ? L’ONU n’a aucun pouvoir coercitif réel. Les gouvernements nationaux sont en compétition entre eux. Les entreprises s’auto-régulent de manière cosmétique. Aucune institution n’a la légitimité, la capacité technique, et le pouvoir d’imposer un arrêt réel du développement IA à l’échelle globale.
Yudkowsky appelle parfois à des mesures drastiques — destruction militaire des datacenters contrevenants. Au-delà du caractère évidemment irréalisable (casus belli international), cela révèle surtout l’incompréhension profonde des mécanismes en jeu. Le développement de l’IA n’est pas le caprice de quelques entrepreneurs irresponsables qu’il suffirait de menacer. C’est l’aboutissement de contradictions économiques et géopolitiques profondes qui rendent ce développement structurellement nécessaire dans le système actuel.
4.3 L’IA et l’amplification de tous les facteurs d’échec
Si le principe de précaution échoue déjà face au climat, au nucléaire, aux plastiques, son impuissance atteint un degré qualitatif supplémentaire face à l’IA. Tous les facteurs structurels d’échec sont présents simultanément et amplifiés.
Concentration de pouvoir démultipliée : Les entreprises développant l’IA de pointe (OpenAI/Microsoft, Google/DeepMind, Anthropic, Meta, Baidu, Alibaba) ne sont pas simplement de grandes entreprises. Ce sont des oligopoles contrôlant l’infrastructure informationnelle et cognitive de la civilisation contemporaine. Leur influence politique, leur capacité de lobbying, leur contrôle des données et des algorithmes dont dépendent gouvernements et citoyens leur confèrent un pouvoir dépassant largement celui des géants pétroliers ou nucléaires.
Plus structurel encore : ces entreprises ne sont pas de simples acteurs économiques. Elles sont l’infrastructure de la valorisation capitaliste contemporaine. L’économie numérique, la publicité ciblée, le commerce en ligne, la logistique optimisée, la finance algorithmique — tout repose sur elles. Les réguler drastiquement nécessiterait de contraindre précisément les organisations dont dépend le fonctionnement du capitalisme numérique lui-même.
Compétition géopolitique maximale : Si la course nucléaire rendait déjà la précaution impuissante, la course à l’IA reproduit et amplifie cette dynamique. L’IA est perçue — à raison — comme déterminante pour la domination économique et militaire future. Aucune puissance ne peut se permettre de ralentir unilatéralement.
Cette compétition ne se limite pas à la rivalité USA-Chine. L’Europe, le Royaume-Uni, Israël, la Corée, l’Inde — tous considèrent l’IA comme enjeu de souveraineté stratégique. La fragmentation géopolitique rend toute coordination quasi impossible.
Temporalité perverse : Le problème des seuils : Les risques de l’IA présentent une structure temporelle particulièrement défavorable à la précaution. Les bénéfices sont immédiats et tangibles : gains de productivité, automatisation, optimisation, profits. Les risques majeurs — perte de contrôle, domination économique totale, obsolescence humaine — semblent lointains, spéculatifs, contestables.
Pire encore : l’IA pourrait franchir des seuils critiques de capacité de manière soudaine. Les modèles actuels montrent des “émergences” — soudainement, à partir d’une certaine échelle, le système manifeste des aptitudes qualitativement nouvelles qui n’étaient pas présentes avant. Cette dynamique de seuil rend la précaution temporellement impossible : tant que les capacités restent limitées, les risques semblent hypothétiques et la régulation excessive ; quand les capacités deviennent manifestes, il peut être trop tard pour réguler.
Avec le climat, nous avons au moins des décennies de dégradation progressive. Avec l’IA, nous pourrions franchir des seuils d’un coup — et ces franchissements pourraient être largement opaques, se produisant dans les laboratoires privés avant toute prise de conscience publique.
Asymétrie informationnelle radicale : Un facteur spécifique à l’IA amplifie tous les autres : l’asymétrie informationnelle totale. Seules les entreprises savent vraiment ce qu’elles développent, comment leurs systèmes fonctionnent, quelles capacités émergent.
Les régulateurs dépendent de l’information fournie par les acteurs qu’ils régulent. Cette dépendance existe ailleurs (pharma, finance), mais atteint ici un degré extrême : comprendre réellement un système d’IA avancé nécessite expertise technique, ressources computationnelles, accès aux données et aux modèles que seules les entreprises possèdent.
Cette asymétrie transforme toute régulation en négociation où une partie dicte les termes. Les entreprises IA écrivent leurs propres “principes éthiques”, proposent leurs propres “standards de sécurité”, définissent ce que signifie “aligned” et “safe”. Les régulateurs, faute de capacité d’évaluation indépendante, entérinent ces auto-régulations cosmétiques.
4.4 Le paradoxe salvateur : Utiliser l’IA pour sauver ce qui la rend possible
Et voici le paradoxe vertigineux qui rend la situation qualitativement différente de tous les défis prométhéens précédents.
Le principe de précaution échoue face au climat, à la biodiversité, au nucléaire. Mais simultanément, l’IA pourrait être précisément l’outil nécessaire pour résoudre ces crises. Nous avons créé des problèmes (réchauffement, pollution, épuisement) que nous ne pouvons plus résoudre avec les capacités cognitives et organisationnelles qui les ont créés.
La décroissance matérielle devient nécessaire — mais semble politiquement impossible car elle menace emplois, niveau de vie, positions sociales. L’IA offre une sortie potentielle : automatiser la production avec moins de ressources et de travail humain, tout en augmentant nos capacités de délibération collective.
Scénario 4 — décroissance matérielle soutenable accompagnée d’abondance cognitive — n’est possible que grâce à l’IA.
Mais développer l’IA comporte ses propres risques existentiels. Et le principe de précaution qui devrait nous protéger échoue précisément face aux logiques qui la développent.
Nous sommes piégés : ne pas développer l’IA nous condamne à l’incapacité de gérer les crises existantes. Développer l’IA selon les logiques actuelles (compétition capitaliste, course géopolitique) nous condamne à des scénarios catastrophiques alternatifs.
Ce n’est pas un dilemme à résoudre par un “juste milieu”. C’est une contradiction dialectique qui exige un dépassement.