Le Monde Moderne — Consécration de L'Autonomisation Sociale
Nous avons établi théoriquement comment la société fonctionne comme organisme autonome. Tournons-nous maintenant vers le monde contemporain pour voir comment cette autonomisation atteint aujourd’hui une intensité et une sophistication sans précédent.
7.1 Le règne de l’algorithme : Quand les décisions échappent à l’humain
Les algorithmes ne sont pas neutres. Ils incarnent des objectifs, des valeurs, des biais. Et de plus en plus, ce sont eux qui prennent les décisions qui structurent nos vies.
Google Search décide ce que vous voyez quand vous cherchez de l’information. Vous croyez explorer librement le web, mais l’algorithme filtre, classe, hiérarchise. Il vous montre ce qu’il considère pertinent selon ses critères - critères qui incluent ce qui vous maintiendra sur la plateforme, ce qui générera le plus de clics publicitaires. Eli Pariser a documenté en 2011 comment ces algorithmes créent des “bulles de filtre” - chacun voit un internet différent, personnalisé selon son profil. La réalité partagée se fragmente en millions de réalités individualisées.
Facebook et Instagram contrôlent ce que vous voyez dans votre fil d’actualité. Ce n’est pas vos amis dans l’ordre chronologique. C’est un flux algorithmique optimisé pour maximiser votre “engagement” - temps passé, likes, commentaires, partages. L’algorithme a appris que les contenus émotionnels, polarisants, outrageants génèrent plus d’engagement. Donc il vous en montre davantage. Le résultat documenté : augmentation de la polarisation politique, de l’anxiété, de la dépression. Mais l’algorithme ne “se soucie” pas de votre bien-être mental. Il optimise ce pour quoi il a été programmé : l’engagement.
TikTok a porté cette logique à un niveau supérieur. Son algorithme de recommandation est d’une puissance et d’une précision terrifiantes. Il apprend ce qui vous retient en quelques secondes, ajuste en temps réel. Les utilisateurs rapportent ne plus pouvoir s’arrêter, scrollant pendant des heures dans un état presque hypnotique. L’algorithme a trouvé et exploite les vulnérabilités de votre système de récompense neurologique.
Les algorithmes de crédit décident si vous pouvez emprunter, donc acheter une maison, une voiture, financer vos études. Ces algorithmes sont opaques, propriétaires, souvent biaisés. Des études ont montré qu’ils reproduisent et amplifient les discriminations raciales et de genre présentes dans les données historiques sur lesquelles ils sont entraînés. Vous êtes jugé par une machine selon des critères que vous ne comprenez pas et ne pouvez pas contester.
Les algorithmes d’embauche trient les CV. Avant même qu’un humain voie votre candidature, un algorithme a décidé si vous passiez la première étape. Ces algorithmes sont entraînés sur les embauches passées, donc tendent à reproduire les biais existants - favorisant les profils similaires à ceux déjà en poste, pénalisant la diversité.
Le résultat global : des décisions majeures sur votre vie - ce que vous voyez, ce que vous savez, ce que vous croyez, qui vous rencontrez, si vous pouvez emprunter, si vous pouvez être embauché - sont prises par des systèmes automatisés que personne ne comprend complètement. Même les ingénieurs qui créent ces algorithmes ne peuvent pas toujours expliquer pourquoi ils prennent telle ou telle décision, particulièrement pour les systèmes d’apprentissage automatique complexes qui développent leurs propres patterns dans les données.
Cathy O’Neil, mathématicienne devenue critique de l’industrie technologique, a publié en 2016 Weapons of Math Destruction où elle documente comment ces algorithmes “sont des opinions encodées dans les mathématiques”. Ils semblent objectifs, neutres, scientifiques. Mais ils reflètent les valeurs, les biais, les objectifs de ceux qui les ont créés et des données sur lesquelles ils sont entraînés.
Safiya Noble, dans Algorithms of Oppression publié en 2018, montre spécifiquement comment les algorithmes de recherche reproduisent le racisme et le sexisme structurels. Pendant des années, si vous cherchiez “black girls” sur Google Images, les premiers résultats étaient pornographiques. Ce n’est pas que Google soit consciemment raciste. C’est que l’algorithme reflète les patterns présents dans les données du web, qui elles-mêmes reflètent les biais de la société.
Nous avons créé des systèmes de décision automatisés qui nous échappent, qui opèrent selon leur propre logique, qui façonnent nos vies de manière que nous ne comprenons ni ne contrôlons pleinement.
7.2 Le travail algorithmique : Quand l’humain devient variable d’ajustement
La “gig economy” - économie des petits boulots - représente peut-être l’aboutissement de l’aliénation du travail que Marx analysait. Uber, Deliveroo, TaskRabbit, Amazon Mechanical Turk, Fiverr - des plateformes qui transforment le travail en micro-tâches atomisées assignées par algorithme.
Le mécanisme est ingénieux et terrifiant. Vous n’êtes pas employé de la plateforme. Vous êtes officiellement “indépendant”, “partenaire”, “entrepreneur”. Donc vous n’avez aucun des droits associés au salariat - pas de congés payés, pas de protection maladie, pas de retraite, pas de droit de grève, pas de représentation syndicale. Vous assumez tous les risques - votre véhicule, votre équipement, votre assurance.
Mais vous n’avez aucune des libertés réelles de l’entrepreneur. L’algorithme vous assigne les tâches. L’algorithme évalue votre performance en temps réel. L’algorithme décide de votre rémunération, qui peut fluctuer selon l’offre et la demande. L’algorithme vous punit si vous refusez trop de courses - votre “score” baisse, vous accédez à de moins bonnes missions. Vous êtes en compétition constante avec des milliers d’autres “partenaires” pour les meilleures tâches.
La surveillance est totale. Chaque trajet, chaque livraison, chaque minute est tracée. Pour les livreurs à vélo, le GPS suit chaque mouvement. Vous êtes évalué par les clients, vos notes sont publiques, déterminent votre accès au travail. Un mauvais jour, une erreur, un client mécontent - et votre gagne-pain est menacé. Il n’y a pas de recours, pas d’humain à qui parler, juste l’algorithme implacable.
Prenons l’exemple concret d’un chauffeur Uber. L’algorithme optimise les trajets et la tarification pour maximiser le profit d’Uber, pas le revenu du chauffeur. Les prix varient selon l’offre et la demande - “surge pricing” pendant les heures de pointe. Le chauffeur a l’illusion de contrôler - il peut accepter ou refuser les courses. Mais refuser diminue son score, donc son accès aux bonnes courses. Résultat : il doit accepter presque tout ce que l’algorithme propose. Il travaille douze, quinze heures par jour pour gagner moins que le salaire minimum une fois déduits les coûts de véhicule, essence, entretien, assurance. L’usure est intense - physique, mentale, du véhicule.
L’exploitation est masquée par la rhétorique de la “liberté” et de l‘“entrepreneuriat”. “Soyez votre propre patron ! Travaillez quand vous voulez !” En réalité : précarité maximale, subordination totale à l’algorithme, absence de toute protection sociale. Antonio Casilli, sociologue français, a documenté dans En attendant les robots (2019) comment ce “digital labor” - qui inclut aussi tous les micro-travailleurs qui annotent des données pour entraîner les IA - représente une forme d’exploitation à l’échelle globale, un retour à des conditions de travail pré-industrielles mais médiées par la technologie.
Et la tendance s’accélère. De plus en plus de secteurs adoptent ce modèle. Le travail stable, protégé, syndiqué devient l’exception. La norme devient le travail précaire, flexibilisé, individualisé, médié par plateformes. Vous n’êtes plus un travailleur avec des droits collectifs. Vous êtes un micro-entrepreneur en compétition avec des millions d’autres, discipliné par l’algorithme, remplaçable à tout instant.
7.3 Le capitalisme de surveillance : Votre existence comme matière première
Shoshana Zuboff, professeure émérite à Harvard Business School, a publié en 2019 The Age of Surveillance Capitalism, analyse magistrale du nouveau régime économique qui est en train de s’installer.
Le capitalisme de surveillance ne vend pas des produits. Il vend des prédictions comportementales. Voici comment fonctionne le mécanisme.
Première étape : extraction massive de données. Tout ce que vous faites en ligne est enregistré. Chaque recherche Google, chaque email Gmail, chaque vidéo YouTube, chaque localisation trackée par Google Maps. Chaque like, chaque post, chaque ami, chaque photo, chaque message sur Facebook. Chaque produit regardé, acheté, commenté sur Amazon. Chaque mouvement de votre smartphone. Ces données sont collectées en permanence, même quand vous ne vous y attendez pas. Votre smart TV écoute vos conversations. Votre assistant vocal Alexa enregistre tout. Vos applications mobiles traquent votre localisation en permanence même quand vous ne les utilisez pas.
Deuxième étape : prédiction comportementale. Ces masses de données alimentent des modèles d’apprentissage automatique qui apprennent à prédire votre comportement. Que allez-vous chercher demain ? Quel lien allez-vous cliquer ? Quel produit allez-vous acheter ? À quel contenu allez-vous réagir émotionnellement ? Ces prédictions deviennent extraordinairement précises. Le système en sait plus sur vous que vos proches, peut-être plus que vous-même sur certains aspects.
Troisième étape : modification comportementale. Mais la vraie valeur ne vient pas de prédire votre comportement. Elle vient de le modifier. C’est là que ça devient vraiment inquiétant. Les modèles prédictifs identifient comment influencer vos choix. Quel contenu vous montrer, dans quel ordre, avec quel titre, à quel moment de la journée pour maximiser la probabilité que vous cliquiez. Quelle publicité vous présenter pour maximiser la probabilité d’achat. Quel framing d’une question politique pour orienter votre opinion. L’environnement informationnel dans lequel vous baignez est minutieusement architecturé pour influencer vos comportements dans des directions profitables.
Quatrième étape : monétisation. Ces capacités de modification comportementale sont vendues au plus offrant - annonceurs, bien sûr, mais aussi politiciens, gouvernements, n’importe qui prêt à payer pour influencer les comportements d’autrui. Cambridge Analytica a utilisé ces techniques pour influencer le Brexit et l’élection de Trump. Ce n’est que la pointe de l’iceberg.
Ce qui est vendu, ce n’est pas de l’espace publicitaire. C’est la certitude de modifier votre comportement. Google ne vend pas des publicités à des entreprises. Google vend aux entreprises la certitude que vous cliquerez, achèterez, agirez d’une certaine manière. Le produit, c’est la garantie de modification comportementale. Et vous, l’utilisateur, n’êtes pas le client. Vous êtes la matière première.
Zuboff écrit avec une clarté glaçante : “Le capitalisme de surveillance revendique unilatéralement l’expérience humaine comme matière première gratuite pour la traduction en données comportementales.” Votre vie entière - vos pensées, vos émotions, vos relations, vos mouvements, vos désirs - est extraite, transformée en données, utilisée pour vous prédire et vous modifier, le tout pour des profits privés.
L’asymétrie est radicale. Les corporations savent tout de vous. Vous ne savez presque rien d’elles. Elles peuvent vous prédire. Vous ne pouvez pas les prédire. Elles peuvent vous influencer. Vous ne pouvez pas les influencer. C’est un pouvoir sans précédent dans l’histoire humaine. Les régimes totalitaires du XXe siècle rêvaient d’un tel niveau de connaissance et de contrôle sur les individus mais n’avaient pas les technologies pour l’atteindre. Aujourd’hui, ce pouvoir existe, mais il est détenu par des corporations privées, opaque, non régulé, exploité pour le profit.
7.4 Le monde post-humain est déjà là
Récapitulons tout ce que nous avons établi. Votre cognition est externalisée et distribuée dans les réseaux numériques. Votre identité est socialement construite et performée selon des scripts culturels. Votre reproduction est médicalisée et politiquement régulée. Votre survie dépend d’infrastructures collectives gigantesques. Votre travail est aliéné, soit dans des bureaucraties opaques, soit dans des plateformes algorithmiques. Vos désirs sont fabriqués par l’industrie publicitaire et le capitalisme de surveillance. Vos décisions sont architecturées par des algorithmes dont vous ne comprenez pas la logique. Vos données sont extraites pour vous prédire et vous influencer.
Alors, que reste-t-il de l’individu “autonome” ? Que reste-t-il du sujet souverain qui serait maître de ses choix et architecte de son destin ? Presque rien. Vous n’êtes pas un sujet souverain. Vous êtes un nœud dans un réseau, une cellule dans un organisme, un composant dans une machine sociale dont la logique vous transcende et vous domine.
Cette condition n’est pas nouvelle. Marx, Foucault, Bourdieu, Arendt l’ont analysée à leur époque. Mais elle atteint aujourd’hui une intensité, une sophistication, une opacité sans précédent. La cage est devenue si omniprésente, si intégrée à chaque aspect de notre existence, qu’elle est invisible. Nous la prenons pour la réalité naturelle, la seule possible.
Nous sommes déjà post-humains au sens où l’humain autonome, l’individu libre et souverain, n’existe plus. Nous vivons déjà dans une société qui fonctionne comme organisme autonome, qui nous utilise comme substrat, qui poursuit ses propres objectifs systémiques indépendamment de nos volontés individuelles ou même collectives.