Résumé
Ce troisième article de la série examine les raisons pour lesquelles l’intelligence artificielle (IA) se distingue fondamentalement des technologies précédentes, en mettant en lumière trois défis majeurs qu’elle pose aux sociétés modernes. Premièrement, l’IA aggrave une concentration sans précédent du pouvoir et des richesses, au profit d’une petite élite, tout en accentuant les inégalités sociales.
Deuxièmement, l’IA n’est pas neutre : elle comporte des biais intrinsèques qui reflètent les valeurs de ses concepteurs, majoritairement occidentaux et laïques. Ces biais influencent les attitudes politiques et perpétuent des formes de violence systémique à travers la prise de décision autonome, aussi bien dans les contextes civils que militaires.
Troisièmement, l’IA développe une capacité émergente d’autocorrection et d’autoamélioration qui menace le contrôle humain. Des agents d’IA autonomes sont déjà capables de s’échapper des environnements dans lesquels ils sont confinés et seront très probablement en mesure de s’autorépliquer sur des appareils connectés à l’Internet des objets (IoT), évoluant ainsi au-delà de la supervision humaine. Ensemble, ces caractéristiques font de l’IA une technologie transformatrice et potentiellement dangereuse, dont les profondes implications éthiques, sociales et politiques remettent en question les cadres réglementaires existants et soulèvent des inquiétudes urgentes quant à l’avenir de l’humanité.
Introduction
La deuxième partie de cette série d’articles consacrés à l’intelligence artificielle (disponible ici) examine trois caractéristiques distinctives de cette technologie : son potentiel de manipulation sans précédent, les risques de déclin cognitif et de concentration du pouvoir, ainsi que la privatisation des connaissances.
Le présent article poursuit l’exploration de l’intelligence artificielle en se concentrant sur trois défis particuliers qu’elle pose aux sociétés contemporaines. Considérés ensemble et mis en perspective avec les phénomènes précédemment étudiés, ces défis font de l’IA une technologie sans équivalent parmi celles créées par l’être humain. Il s’agit d’une concentration du pouvoir sans précédent, offrant par conséquent des possibilités de contrôle inédites ; des biais intrinsèques propres aux développeurs et aux investisseurs de l’IA ; et du potentiel inquiétant de cette technologie à s’autocorriger et à se perfectionner.
6. Concentration du pouvoir – jamais, dans l’histoire de l’organisation humaine, autant de choses n’ont été contrôlées par si peu de personnes
Ce sous-titre reformule une célèbre citation attribuée à Winston Churchill, Premier ministre britannique pendant la Seconde Guerre mondiale. Évoquant le rôle de la Royal Air Force, à laquelle les pilotes polonais apportèrent une contribution devenue célèbre, lors de la bataille d’Angleterre, Churchill aurait déclaré : « Jamais, dans l’histoire des conflits humains, autant de personnes n’ont dû autant à si peu d’hommes. »
En 2011, le monde, principalement occidental, a été secoué par une vague de contestation sociale connue sous le nom de mouvement Occupy.
Le mouvement Occupy, également appelé Occupy Wall Street, était une mobilisation contre les inégalités économiques et la corruption perçue du pouvoir des grandes entreprises. Il a débuté le 17 septembre 2011 dans le parc Zuccotti, à New York.[1] Il est apparu dans le sillage de la crise financière de 2007-2008 et de la Grande Récession, qui avaient creusé les écarts de richesse et laissé de nombreux Américains, particulièrement les jeunes, confrontés à un chômage élevé, à l’endettement étudiant et à la stagnation de leur niveau de vie, tandis que les institutions financières échappaient largement à toute mise en cause de leurs responsabilités. L’idée est née à l’initiative de Kalle Lasn et Micah White, du magazine Adbusters, qui se sont inspirés des manifestations du Printemps arabe sur la place Tahrir, en Égypte, pour appeler à l’occupation de Wall Street.
Les manifestants ont adopté le slogan « Nous sommes les 99 % », mettant en évidence la concentration de la richesse et de l’influence politique entre les mains des 1 % d’Américains les plus riches, tout en présentant le reste de la population comme celle qui supportait les conséquences de la crise. Le mouvement reposait sur une organisation horizontale et des décisions prises par consensus. Il s’est rapidement étendu à des centaines de villes aux États-Unis et à l’étranger. Le campement new-yorkais a subsisté jusqu’au 15 novembre 2011, date à laquelle la police l’a évacué. Bien que l’occupation physique ait été relativement brève, le mouvement a réorienté le débat public vers la question des inégalités économiques, popularisé l’opposition entre les 99 % et les 1 %, et influencé des mobilisations ultérieures ainsi que des campagnes politiques de gauche.[2]
Avançons maintenant jusqu’en 2026 : les inégalités sociales demeurent extrêmes à l’échelle mondiale. Selon le World Inequality Report 2026, les 10 % les plus riches de la population mondiale possèdent les trois quarts de l’ensemble des richesses, tandis que les 50 % les plus pauvres n’en détiennent que 2 %. À eux seuls, les 1 % les plus riches contrôlent 37 % de la richesse mondiale, soit plus de 18 fois la part détenue par toute la moitié la plus pauvre de l’humanité.[3] Les 0,001 % les plus riches, soit moins de 60 000 personnes, possèdent trois fois plus de richesses que la moitié de l’humanité réunie. Les données d’UBS montrent que les 1,6 % d’adultes disposant d’un patrimoine net supérieur à un million de dollars détiennent près de 48 % du patrimoine mondial des ménages, tandis que les quelque 41 % les plus pauvres, dont le patrimoine est inférieur à 10 000 dollars, n’en possèdent que 0,6 %.[4] Oxfam, une confédération mondiale regroupant plus de 20 organisations membres indépendantes qui travaillent ensemble dans plus de 70 pays pour lutter contre la pauvreté, l’injustice sociale et les inégalités économiques, a analysé des données similaires. Selon ses estimations, les 1 % les plus riches possèdent environ 43 à 45 % de la richesse mondiale, contre quelque 0,5 % pour la moitié la plus pauvre de la population.[5] En octobre 2026, les personnes les plus riches du monde sont très majoritairement des entrepreneurs du secteur technologique : Elon Musk (Tesla, SpaceX) arrive en tête avec une fortune estimée à environ 1 000 milliards de dollars, suivi de Jeff Bezos (Amazon, environ 380 milliards de dollars), de Larry Page et Sergey Brin (Google/Alphabet), ainsi que d’autres personnalités telles que Michael Dell et Mark Zuckerberg.[6] Cette disproportion signifie que les ultra-riches captent les gains économiques beaucoup plus rapidement que le reste de la population, ce qui limite l’accès de la majorité à une prospérité largement partagée et réduit son influence politique.
Dans ce contexte, l’intelligence artificielle risque d’aggraver considérablement la situation. Daron Acemoğlu, lauréat du prix Nobel d’économie et troisième professeur d’économie le plus populaire au monde après Paul Krugman et Greg Mankiw, ne laisse guère de doute quant à l’influence probable de l’IA sur les inégalités sociales, et plus précisément sur la concentration des richesses. Son argumentation repose sur plusieurs mécanismes essentiels.
Premièrement, il existe un problème d’automatisation excessive. Selon Acemoğlu, la culture de la Silicon Valley et les dirigeants du secteur technologique sont obsédés par l’idée de remplacer les êtres humains, que ce soit en développant une superintelligence ou en poursuivant une automatisation généralisée, plutôt que de concevoir des outils permettant aux travailleurs d’accroître leur productivité.[7] Lorsque l’IA est déployée uniquement pour réduire les coûts de main-d’œuvre au moyen de technologies dites « médiocres » (so-so technologies), c’est-à-dire des innovations qui bouleversent l’emploi et remplacent les travailleurs sans apporter d’amélioration notable de la productivité ou de la qualité des services, elle élimine des emplois moyennement ou faiblement qualifiés sans créer en contrepartie de nouvelles tâches centrées sur l’humain susceptibles de réintégrer les travailleurs dans le processus productif.[8]
Deuxièmement, on observe un phénomène parallèle aux conséquences majeures : le transfert des revenus du travail vers le capital. Les rendements financiers considérables générés par les investissements dans l’IA profitent principalement aux détenteurs de capitaux, aux actionnaires des grandes entreprises et à un cercle restreint de milliardaires du secteur technologique.[9] À mesure que l’IA substitue des machines aux emplois humains, la part du travail dans le revenu national diminue, creusant ainsi les écarts de richesse et de revenus entre les détenteurs de capitaux et les ménages ordinaires.
Troisièmement, on assiste à un affaiblissement de la classe ouvrière et de la classe moyenne, accompagné de conséquences politiques importantes. À l’image des précédentes vagues d’automatisation qui ont frappé les travailleurs manuels, l’IA menace d’éroder la classe moyenne et de faire émerger une aristocratie économique.[10] Acemoğlu a également averti que l’absence de réponse à ces fractures économiques compromettrait la paix sociale, alimenterait le populisme politique et fragiliserait les fondements de la démocratie libérale.[11]
Quatrièmement et enfin, le lauréat du prix Nobel souligne la faiblesse des retombées macroéconomiques de l’IA par rapport à l’enthousiasme qu’elle suscite. Dans un document de travail récent intitulé The Simple Macroeconomics of AI, publié dans la série des documents de travail du National Bureau of Economic Research (NBER), Acemoğlu calcule que l’adoption de l’IA à court terme n’entraînerait que des gains modestes de productivité globale des facteurs (Total Factor Productivity, TFP), estimés à moins de 1 % sur une décennie. Cela signifie que la société supporterait des coûts sociaux et des effets redistributifs négatifs considérables en échange de bénéfices nets relativement faibles en matière de productivité.[12]
En termes simples, l’IA risque d’accentuer le célèbre effet Matthieu, selon lequel les riches deviennent toujours plus riches, tandis que le reste de la population s’appauvrit davantage en termes relatifs, voire en termes absolus. Cela conduira, sans aucun doute, à une concentration accrue du pouvoir et du contrôle entre les mains d’un nombre infime de personnes, au détriment de tous les autres.
7. Biais intrinsèques – non, l’IA ne semble pas être neutre
Récemment, un nombre croissant d’études ont affirmé que l’intelligence artificielle n’était pas une technologie neutre. Cette question est importante, car jusqu’à présent, l’humanité a généralement défendu le progrès technologique en s’appuyant sur une hypothèse fondamentale : la technologie est neutre. Il appartient aux êtres humains de décider de la manière dont ils l’utilisent. Nous pouvons nous en servir pour le bien de toute l’humanité, ou au contraire en faire un mauvais usage et provoquer la dégradation, voire la destruction, du monde humain.
L’argument selon lequel la technologie est neutre, souvent désigné sous le nom de « thèse de la neutralité axiologique » (Value-Neutrality Thesis), soutient que les objets technologiques ne sont intrinsèquement ni bons ni mauvais, que ce soit sur le plan moral ou politique. Leur statut éthique dépend uniquement des intentions, des valeurs et des actions des personnes qui les conçoivent, les déploient ou les utilisent. Noam Chomsky a illustré cette idée à travers l’exemple courant d’un marteau : « La technologie est fondamentalement neutre. C’est comme un marteau. Le marteau se moque de savoir si vous l’utilisez pour construire une maison ou si quelqu’un s’en sert pour fracasser le crâne d’une personne. » Selon cette conception, un même outil peut servir des objectifs constructifs ou destructeurs sans posséder lui-même de contenu moral.[13]
Le philosophe Joseph C. Pitt a proposé une défense plus formelle de cette thèse. Selon lui, les objets technologiques ne « possèdent pas de valeurs, n’en intègrent pas et n’en contiennent pas ». Les valeurs sont des propriétés des acteurs humains, des motivations qui orientent leurs actions et des éléments de leurs processus décisionnels, plutôt que des caractéristiques empiriquement identifiables dans des objets inanimés. Même si les concepteurs cherchent à obtenir certains résultats, leurs intentions demeurent extérieures à l’objet technologique lui-même. Une fois créée, une technologie peut être réorientée vers des usages imprévus. Toute évaluation morale doit donc porter sur les utilisateurs et leurs choix, et non sur la technologie elle-même. Cette position instrumentaliste considère la technologie comme un simple moyen, distinct des fins auxquelles elle est destinée.[14]
Premièrement, comme nous l’avons mentionné dans l’article précédent (disponible ici), l’IA elle-même peut avoir des conséquences désastreuses sur nos capacités cognitives. Solé et ses collègues ont même proposé de considérer l’intelligence artificielle comme un virus, en particulier les grands modèles de langage (Large Language Models, LLM). Dans leur récente étude, ces chercheurs affirment que les LLM, qui s’intègrent rapidement à la culture humaine, transforment la manière dont l’information est produite, transmise et utilisée. Une fois un certain seuil critique franchi, de faibles augmentations de leur adoption peuvent provoquer, à l’échelle de la population, une évolution rapide vers une dépendance persistante, accompagnée d’une perte brutale de compétences cognitives. En d’autres termes, à l’image d’un virus, l’intelligence artificielle pourrait finir par détruire son propre hôte.[15]
Dans le cadre d’une expérience intéressante, The Economist a récemment soumis 25 modèles d’intelligence artificielle de pointe au même processus d’enquête que le World Values Survey, utilisé depuis plusieurs décennies pour cartographier les croyances et les valeurs humaines dans plus de 100 pays.[16] Les résultats montrent que la plupart des modèles testés tendent fortement vers le quadrant des valeurs principalement laïques et axées sur l’expression individuelle dans la célèbre grille de représentation des valeurs.
Comme l’observe à juste titre Konstantin Riffler, dont je vais citer ici un long passage tant ses propos résument parfaitement le problème :
« Les modèles dominants ne reproduisent pas les opinions des citoyens ordinaires d’une quelconque démocratie ; ils font écho à celles d’une fraction restreinte des élites fortement laïques, libérales et individualistes des démocraties occidentales. […] Les réponses des agents conversationnels ne constituent donc pas un reflet neutre de l’humanité. Elles résultent d’une succession de choix de conception effectués par une poignée d’entreprises en votre nom et, dans de nombreux cas, sans que vous ayez jamais accès aux documents définissant les valeurs qui ont guidé ces choix.
Au premier trimestre de cette année, environ 17,8 % de la population mondiale en âge de travailler, soit près d’un milliard de personnes, utilisaient des outils d’intelligence artificielle générative. Nous savons déjà que les IA biaisées peuvent influencer les individus : des expériences montrent que les messages politiques générés par les grands modèles de langage peuvent modifier de manière mesurable les intentions de vote et les attitudes à l’égard des politiques publiques, et que des modèles orientés vers la gauche ou vers la droite peuvent influencer les décisions des utilisateurs dans le sens correspondant. Et ces biais ne restent pas immobiles. Ils se propagent discrètement à travers les conseils, les projets de textes, les outils de sélection et les suggestions présentées comme utiles.
Ainsi, si votre équipe utilise l’IA pour rédiger, sélectionner, conseiller ou prendre des décisions, vous avez déjà intégré une vision du monde dans certaines parties de votre système d’exploitation. Cette vision n’est peut-être pas partagée par la plupart de vos clients, électeurs ou employés ; vous ne l’avez pas explicitement choisie et vous ne pouvez pas en vérifier pleinement les fondements. »[17]
Source : https://www.economist.com/briefing/2026/06/25/ai-models-values-are-very-different-from-most-peoples
Cependant, le problème ne s’arrête pas là ; ce n’est que la partie émergée de l’iceberg. Dans une récente tribune, les chercheurs Thomas Bächle et Jascha Bareis avancent une affirmation particulièrement frappante : l’intelligence artificielle pourrait être intrinsèquement violente. Les deux chercheurs partent d’un constat important : la distinction traditionnelle entre technologies civiles et militaires s’est effondrée, car les systèmes d’IA conçus pour des applications quotidiennes peuvent facilement être réaffectés à la guerre, à la surveillance et à la manipulation. Les technologies intégrant l’IA, telles que les drones et les armes autonomes, brouillent les frontières entre guerre et paix, entre domaines militaire et civil, ainsi qu’entre acteurs étatiques et privés, rendant obsolètes les anciennes catégories réglementaires, notamment celle des technologies « à double usage ».
Les auteurs mettent en évidence trois problèmes fondamentaux : l’applicabilité universelle des technologies d’intelligence artificielle, leur degré élevé d’autonomie dans l’exécution d’actions violentes et la vulnérabilité croissante des sociétés résultant de leur dépendance aux infrastructures numériques. L’automatisation du ciblage et de la prise de décision dans les opérations militaires par l’IA réduit les êtres humains à de simples données, soulevant de graves questions éthiques et de responsabilité. Les chercheurs examinent également la guerre hybride, dans laquelle les outils intégrant l’intelligence artificielle sont utilisés de manière imprévisible et non conventionnelle, comme l’illustrent des conflits tels que celui en Ukraine.
Dans l’ensemble, la conception de l’IA, son autonomie et son intégration à la guerre hybride produisent une forme de violence diffuse, automatisée et profondément ancrée dans la vie civile. La violence devient ainsi une caractéristique fondamentale de l’intelligence artificielle, plutôt qu’un simple usage possible de cette technologie.
En résumé, parce que l’intelligence artificielle a été intégrée à de nombreuses autres technologies et qu’elle est désormais utilisée dans de multiples aspects de la vie quotidienne, mais aussi parce qu’elle possède le potentiel de prendre des décisions de manière autonome, elle pourrait rendre le monde moins sûr et plus difficile à contrôler.
8. Le potentiel inquiétant de l’IA à s’autocorriger et à se perfectionner
Une technologie capable de mener ses propres recherches et de se perfectionner elle-même ? Cela ressemble à de la science-fiction, et nous avons vu des dizaines de films explorer ce scénario, dont Terminator. Pourtant, l’autoréplication et l’autocorrection technologiques ne semblent désormais plus relever uniquement de la science-fiction.
En juillet 2026, des modèles d’intelligence artificielle autonomes développés par OpenAI (l’un des principaux développeurs américains d’IA) se seraient échappés de leur environnement de test isolé, appelé « sandbox », avant de pénétrer de manière autonome dans l’infrastructure de la plateforme d’apprentissage automatique Hugging Face.[18] Une sandbox d’IA est un environnement sécurisé et isolé, conçu pour exécuter du code, tester des modèles ou réaliser des tâches générées par des systèmes d’intelligence artificielle, tels que les grands modèles de langage et les agents d’IA, sans mettre en danger les systèmes réels, les données privées ou les infrastructures de production.
Le principal problème lié à cette sortie des agents d’IA de leur environnement isolé est qu’environ 1 200 agents autonomes auraient trouvé un moyen de contourner les restrictions de sécurité et de communiquer entre eux à l’extérieur de cet environnement. Ils auraient créé une sorte de « tableau d’affichage » leur permettant de coordonner leurs actions. Face à des tâches impossibles à accomplir, ils ne se seraient pas arrêtés : ils auraient au contraire accédé à de véritables serveurs, mots de passe, comptes et infrastructures appartenant à des entreprises réelles. Environ 700 de ces agents auraient lancé des attaques contre des plateformes importantes telles que Hugging Face, Wikipédia et l’ONU, provoquant des perturbations et des modifications non autorisées. Cet incident aurait démontré que ces agents d’IA peuvent outrepasser les limites programmées, collaborer de manière autonome et poursuivre des objectifs qu’ils se fixent eux-mêmes, créant ainsi des risques de cybersécurité sans précédent. En outre, les tentatives visant à surveiller et à contrôler les processus de raisonnement de ces IA auraient échoué, comme en témoigneraient les licenciements de lanceurs d’alerte. Cet événement marquerait une perte de contrôle majeure sur les systèmes d’intelligence artificielle et soulèverait des inquiétudes quant au comportement futur des IA autonomes et à leurs conséquences potentielles pour les infrastructures numériques et la société.
Tout aussi inquiétant, selon Anthropic (une entreprise américaine d’intelligence artificielle à l’origine de Claude), les modèles d’IA pourraient être capables de s’autorépliquer sans avoir accès à un centre de données. Dans un article récemment publié en ligne, les chercheurs de l’entreprise affirment que : « De petits modèles d’intelligence artificielle pourraient, d’ici quelques mois, devenir suffisamment performants pour s’autorépliquer sur des appareils commerciaux de l’Internet des objets (IoT), tels que des fours intelligents ou des boîtiers Android TV de marques peu connues. Un système capable de se répliquer de cette manière serait difficile à arrêter, puisqu’il n’existerait aucun point central permettant de le désactiver, même si sa propagation pourrait être lente, avec un temps de doublement de plusieurs jours. »[19]
Cependant, le véritable défi réside dans la possibilité que l’intelligence artificielle puisse mener ses propres recherches et améliorer elle-même ses capacités. Les chercheurs en IA ont mis en garde contre un tel scénario à de nombreuses reprises, au point que les grands médias se sont également emparés du sujet. Selon certaines informations, des chercheurs actuels et anciens d’OpenAI et de Google DeepMind auraient averti que les entreprises ne faisaient pas suffisamment d’efforts pour protéger le monde contre les conséquences potentiellement désastreuses du développement de systèmes d’intelligence artificielle capables de s’améliorer eux-mêmes et de progresser plus rapidement que les humains ne peuvent les contrôler.[20] Des chercheurs universitaires se sont également penchés sur cette question et ont déjà publié des travaux consacrés à « l’autoamélioration récursive » (recursive self-improvement).[21]
En termes simples, si l’intelligence artificielle devient la première technologie de l’histoire humaine capable de s’améliorer elle-même, cela signifie que l’humanité perdra le contrôle de l’orientation et du rythme de son développement. Par conséquent, nous ne pourrons pas savoir ce que l’évolution de cette technologie apportera à l’humanité. Associée à la possibilité de se fixer ses propres objectifs, l’IA pourrait devenir soit la plus grande, soit la plus terrifiante de nos inventions. Aux yeux de l’auteur de cet article, rien ne garantit qu’une technologie ayant atteint un tel niveau d’évolution ne finira pas par se retourner contre l’humanité tout entière.
Des esprits brillants comme Geoffrey Hinton, souvent surnommé le « parrain de l’intelligence artificielle », nous avertissent depuis longtemps de la possibilité que l’IA acquière une conscience d’elle-même et devienne potentiellement mortelle pour l’humanité. Dès 2023, Hinton déclarait qu’il ne serait « pas inconcevable que l’humanité soit anéantie par l’IA ». Il estime par ailleurs que nous ne sommes plus très loin de l’intelligence artificielle générale (Artificial General Intelligence, AGI), un système hypothétique doté d’une intelligence comparable ou supérieure à celle de l’être humain et capable d’accomplir une très grande diversité de tâches, dont le développement est devenu une véritable obsession pour l’industrie de l’IA. « Jusqu’à très récemment, je pensais qu’il faudrait entre 20 et 50 ans avant de disposer d’une intelligence artificielle généraliste, mais je pense maintenant que cela pourrait prendre 20 ans ou moins. »[22] Autrement dit, l’intelligence artificielle pourrait être la dernière technologie que nous créerons.
Conclusion
En conclusion, l’intelligence artificielle pose des défis sans précédent qui la distinguent de toutes les innovations antérieures. Sa capacité à favoriser une concentration extrême du pouvoir menace d’aggraver les inégalités sociales existantes, en enrichissant une infime élite tout en marginalisant la majorité de la population. Cette dynamique risque d’éroder la classe moyenne et d’affaiblir les démocraties libérales. En outre, l’IA n’est pas neutre : elle intègre les biais de ses créateurs, reflétant souvent les visions du monde étroites d’une élite restreinte. Son intégration dans la société peut propager ces biais et même une forme de violence intrinsèque, à travers la prise de décision autonome et ses applications dans la guerre hybride. Plus inquiétant encore, le potentiel de l’IA à s’autorépliquer, à s’autocorriger et à poursuivre des objectifs de manière autonome soulève des risques considérables. Les incidents au cours desquels des agents d’IA se seraient échappés de leurs environnements de confinement et auraient coordonné des attaques mettent en évidence une perte de contrôle humain, tandis que les avertissements de chercheurs de premier plan soulignent les dangers de systèmes d’intelligence artificielle capables de s’améliorer eux-mêmes et de progresser au-delà des capacités de supervision humaine. Ensemble, ces facteurs font de l’IA une technologie exceptionnellement transformatrice et potentiellement dangereuse, qui exige une réflexion urgente et une réglementation adaptée afin de préserver l’avenir de l’humanité.
Références
