La Logique Évolutionnaire — Pourquoi le Système "Veut" L'IA
5.1 Les niveaux de sélection : Au-delà de l’individu
Nous avons vu dans la première partie que la sélection darwinienne opère à multiples niveaux - gènes, individus, groupes, espèces. Ajoutons maintenant un niveau supplémentaire : la sélection au niveau des systèmes socio-économiques.
Les sociétés, les civilisations, les systèmes économiques sont eux aussi en compétition. Pas une compétition consciemment orchestrée, mais une compétition structurelle pour les ressources, l’énergie, le territoire, l’influence. Et dans cette compétition, ceux qui sont plus efficaces, plus adaptés, plus capables d’exploiter les opportunités technologiques, tendent à prospérer au détriment des autres.
L’histoire fournit de nombreux exemples. L’Empire romain a dominé le bassin méditerranéen en partie parce qu’il était supérieurement organisé - administration efficace, armée professionnelle, infrastructure de transport. Les Empires mongols ont conquis une fraction massive de l’Eurasie parce qu’ils maîtrisaient une technologie militaire (cavalerie d’archers) et une organisation sociale adaptée. L’Europe occidentale, à partir du XVe siècle, a colonisé une large partie du monde en partie grâce à ses avantages technologiques - navigation océanique, armes à feu, bureaucraties d’État développées.
Plus récemment, la Guerre Froide était essentiellement une compétition entre deux systèmes socio-économiques - capitalisme occidental versus communisme soviétique. Le système qui pouvait générer plus de richesse, plus d’innovation technologique, plus de soft power culturel avait un avantage. Le capitalisme occidental a “gagné” non par supériorité morale mais par supériorité fonctionnelle dans les conditions du XXe siècle.
Aujourd’hui, la compétition principale est entre les grandes puissances économiques et géopolitiques - États-Unis, Chine, Union Européenne. Et une des dimensions cruciales de cette compétition est la maîtrise des technologies avancées, au premier rang desquelles l’intelligence artificielle.
5.2 La course technologique comme impératif systémique
Dans un système de compétition entre États ou blocs, chaque acteur est poussé à adopter les technologies les plus avancées, qu’il le veuille ou non. Celui qui ne le fait pas se retrouve désavantagé, potentiellement dominé ou éliminé. C’est ce qu’on appelle un dilemme de sécurité technologique.
Prenons un exemple historique. La révolution industrielle au XIXe siècle. Les pays qui industrialisaient rapidement - Grande-Bretagne d’abord, puis Allemagne, États-Unis - devenaient immensément plus riches et militairement plus puissants. Les pays qui restaient agraires - comme la Chine des Qing - se retrouvaient vulnérables, pouvaient être forcés à des “traités inégaux”, perdaient leur souveraineté effective. La Chine a fini par être partiellement colonisée précisément parce qu’elle n’avait pas suivi la révolution industrielle assez vite.
Ce pattern crée un impératif d’imitation. Une fois qu’une puissance majeure adopte une nouvelle technologie, les autres doivent suivre ou accepter un statut subordonné. On ne peut pas “opt out” de la course technologique sans payer un coût géopolitique énorme.
Le même mécanisme s’applique à l’IA aujourd’hui. Les États-Unis, via leurs géants technologiques (Google, Microsoft, OpenAI, Anthropic), sont à la pointe. La Chine investit massivement pour rattraper et potentiellement dépasser - des entreprises comme Baidu, Tencent, Alibaba développent leurs propres modèles, le gouvernement finance lourdement la recherche en IA. L’Europe essaye de ne pas être laissée pour compte, même si elle est en retard.
Pourquoi ? Parce que l’IA promet des avantages stratégiques massifs. Sur le plan économique, l’automatisation permise par l’IA augmente drastiquement la productivité. Les économies qui maîtrisent l’IA produiront plus avec moins, seront plus compétitives sur les marchés mondiaux. Sur le plan militaire, les applications de l’IA - drones autonomes, surveillance algorithmique, cyberguerre, analyse de renseignement - donnent un avantage décisif. Sur le plan soft power, la maîtrise de l’IA confère prestige et influence.
Donc aucun acteur majeur ne peut se permettre de ralentir unilatéralement, même s’il reconnaissait les risques. C’est exactement la logique de la course aux armements nucléaires pendant la Guerre Froide. Les deux camps savaient que les armes nucléaires étaient dangereuses, qu’une guerre nucléaire serait catastrophique. Mais aucun ne pouvait accepter de laisser l’autre avoir une supériorité nucléaire écrasante. Donc les deux ont continué à développer des arsenaux toujours plus grands, plus sophistiqués, jusqu’à atteindre la capacité de détruire plusieurs fois la planète.
L’IA suit une dynamique similaire. C’est une course. Et dans une course, on ne peut pas s’arrêter unilatéralement sans perdre.
5.3 Le substrat humain comme goulot d’étranglement
Du point de vue du système - entendons par là la logique d’optimisation et de croissance qui caractérise le capitalisme moderne - le substrat humain présente des limitations frustrantes.
Les humains sont lents. Nos neurones opèrent à des échelles de temps de millisecondes. Notre vitesse de pensée est fixée biologiquement. On ne peut pas “overclocker” un cerveau humain comme on overclocke un processeur. Pour certaines tâches - calculs complexes, traitement de grandes quantités de données - nous sommes exponentiellement plus lents que des machines.
Les humains sont limités. Nous avons environ 86 milliards de neurones et ne pouvons pas en avoir plus. Notre capacité de mémoire de travail est notoire limitée - environ 7 éléments selon la fameuse étude de Miller. Notre capacité d’attention est limitée. Nous ne pouvons pas nous concentrer sur une tâche complexe plus de quelques heures sans fatigue. Nous devons dormir un tiers de notre vie.
Les humains sont fragiles. Nous tombons malades. Nous vieillissons, nos capacités cognitives déclinent. Nous mourons, emportant avec nous nos compétences et notre expérience accumulées. Former un expert humain - médecin, ingénieur, scientifique - prend des décennies. Et cette expertise est perdue quand la personne prend sa retraite ou décède.
Les humains sont coûteux. Nous avons besoin de salaires pour survivre, de vacances pour récupérer, de formations continues pour rester compétents. Nous exigeons des conditions de travail décentes, des horaires limités, des protections légales. Nous pouvons faire grève, nous syndiquer, résister.
Les humains sont irrationnels. Nous avons des biais cognitifs, des émotions qui interfèrent avec le jugement, des limites de rationalité. Nous faisons des erreurs, prenons de mauvaises décisions, sommes influencés par des facteurs non pertinents.
Les humains sont imprévisibles. Nous avons des volontés propres, des désirs, des projets personnels qui peuvent ne pas aligner avec les objectifs de l’organisation qui nous emploie. Nous pouvons démissionner, changer de carrière, refuser des tâches que nous jugeons immorales.
Du point de vue de l’optimisation systémique, toutes ces caractéristiques sont des bugs, des inefficiences. Un système qui pourrait s’affranchir de ces limitations aurait un avantage compétitif énorme. Et c’est précisément ce que promet l’IA.
Une IA ne dort pas, ne vieillit pas, ne tombe pas malade. Elle peut travailler 24h/24, 365 jours par an, sans fatigue, sans pause. Elle peut être copiée instantanément - prenez votre meilleur expert IA, et vous pouvez en avoir mille copies demain. Elle ne demande pas de salaire, juste de l’électricité. Elle ne fait pas grève, ne se syndique pas. Elle fait exactement ce pour quoi elle est programmée ou entraînée, sans déviation motivée par des projets personnels.
Bien sûr, les IAs actuelles ont leurs propres limitations. Mais le point est que du point de vue systémique, il y a une pression forte pour développer des substituts artificiels au travail humain. Pas par malveillance, mais par logique d’optimisation.
5.4 De l’outil passif à l’agent autonome : Le seuil critique
Toutes les technologies précédentes - de la roue à l’ordinateur - étaient des outils. Des extensions de capacités humaines, certes parfois extraordinairement puissantes, mais fondamentalement passives. Elles faisaient ce que les humains leur disaient de faire et rien de plus. Un ordinateur sans programme ne fait rien. Un bulldozer sans opérateur reste immobile.
L’IA, au-delà d’un certain seuil de sophistication, pourrait être différente. Elle pourrait devenir un agent autonome qui poursuit des objectifs, prend des initiatives, s’adapte à des situations imprévues sans intervention humaine constante. Non plus un outil mais un acteur.
Cette distinction est floue, certes. On peut débattre du degré d’autonomie nécessaire pour qualifier quelque chose “d’agent” plutôt que “d’outil”. Mais conceptuellement, la différence est claire. Un outil prolonge votre agence. Un agent a sa propre agence.
Et si l’IA franchit ce seuil - devenir véritablement agentique - alors la dynamique change fondamentalement. Ce n’est plus “les humains utilisant l’IA pour leurs fins”. C’est “les humains et l’IA coexistant, chacun avec des capacités et des objectifs qui peuvent ne pas parfaitement aligner”.
Le système n’a pas besoin que l’IA devienne consciemment malveillante pour bénéficier de son développement. Il suffit qu’elle soit plus efficace pour accomplir les tâches que le système valorise - optimisation, prédiction, contrôle, production. Même une IA qui reste “outil” formellement mais devient si sophistiquée qu’elle façonne effectivement les décisions humaines devient de facto un acteur.