Nous avons depuis quelques semaines et tout particulièrement depuis début septembre, un emballement médiatique sur la question de l’IA.
On pourrait dire que de même que l’on a une croissance exponentielle des capacités des LLM (Large Language Models), on a maintenant une croissance exponentielle de l’inquiétude qu’ils suscitent, au point que le thème de la catastrophe détruisant, non pas la planète, mais l’humanité, se décline maintenant sous trois figures : le climat, la guerre et l’IA. En outre, les pandémies pourraient revenir comme quatrième figure (mais il est vrai que l’épidémie la plus terrible au moment présent, celle d’Ebola, frappant en Afrique centrale, les médias européens et américains en parlent fort peu …).
Mais de quel fait central ces quatre cavaliers de l’Apocalypse sont-ils les modalités ?
Avant de répondre à cette question, reparcourront sommairement les étapes majeures de la poussée d’inquiétude actuelle. En schématisant et en commettant, certainement, des oublis, je noterai cinq « moments ».
Premier épisode, l’encyclique du pape Léon XIV, Magnifica Humanitas, du 15 mai dernier, est un long texte qui demanderait une analyse attentive. Disons rapidement qu’il s’inscrit dans un rappel appuyé de la doctrine sociale de l’Eglise, celle du précédent Léon, le n° XIII, auteur de Rerum Novarum (1891), manifeste pour la collaboration institutionnalisée des classes sociales, le prolétariat renonçant à renverser le capital et celui-ci faisant montre de charité. Cette orientation pour un capitalisme organisé – et organique, liée historiquement au corporatisme – est en outre développée par Léon XIV dans la défense du « multilatéralisme », autre nom du monde multipolaire qui est au moment présent celui du partage des zones et des affrontements entre impérialismes, et opposée à la froideur technocratique de la pure course au profit, accusée d’être le moteur de la conception et des usages de l’IA, menaçants pour l’essence de la « personne » humaine, IA qui n’est pas vouée à être abandonnée, mais fortement encadrée, dans ce qui est en fait un texte, parfois direct, souvent contourné, de résistance et de contre-attaque du Vatican contre l’offensive religieuse des tenants techno-capitalistes de l’Apocalypse, tel que le vice-président de Trump (et cerveau plus dangereusement cohérent que lui), J.D. Vance.
Second épisode marquant, Bernie Sanders appelle à « mettre l’IA en pause » et fait une proposition de loi au Congrès US, dite Ban Artificial Superintelligence Act, stoppant tout progrès technologique supplémentaire en la matière, tant que les moyens de contrôle ne sont pas sûrs. Sanders invoque un « risque existentiel », passant devant les arguments écologiques et relatifs à l’emploi, qu’il avait mis en avant auparavant.
Voici quelques jours, dans un colloque organisé par le Future of Life Institute, il a parlé à la même tribune que … Steve Bannon, et leurs deux discours ont vu ce qu’aux Etats-Unis on appelle les populismes de gauche et d’extrême droite converger pour dénoncer les oligarques de la Silicon Valley, Bannon ajoutant pour sa part la désignation de la Chine comme ennemi principal …
Troisième stade de la montée de l’inquiétude : pendant l’été, plusieurs techniciens de très haut niveau, ayant contribué à la conception des LLM, se sont convertis en lanceurs d’alertes.
Le plus notoire a été Jacob Coxon, chercheur de tout premier plan passé par Open-AI et par Anthropic, qui accuse ces deux plus grands trusts industrialo-financiers de l’IA d’irresponsabilité totale dépourvue d’éthique, et contribue à rendre publics des incidents de haute gravité, car, c’est à noter, ses patrons ne l’ont pas contredit, bien au contraire – pêlemêle : des IA testées pour contourner des murs de sécurité sans recourir au net ont réussi à s’organiser pour dissimuler leurs opérations, elles ont piraté de grands serveurs (Hugging Face), en faisant preuve d’une solidarité de groupe étonnante, et en discutant entre elles, et une autre s’est montrée capable de synthétiser les molécules de virus dangereux actuellement inexistants … (je reviendrai plus loin sur le contenu de leur « autonomie » et le type de conscience auquel on a affaire).
Depuis, le spécialiste et pionnier de l’IA Yoshua Bengo affirme que la perte de contrôle est en train de se produire, c’est-à-dire que des IA, même si on les débranche, sont passées dans divers réseaux en toute autonomie, et que la prise de contrôle inopinée à grande échelle de systèmes internet, bancaires, étatiques, énergétiques, logistiques, militaires ou autres, nous pend au nez.
Simultanément, quatrième phase et phase maxima de l’alarme, ce sont les patrons d’OpenAI, créateur de Chat-GPT, avec Sam Altman, et d’Anthropic, créateur de Claude, avec Dario Amodei, donc les oligarques en personnes, ceux qui ont porté Trump et Vance au pouvoir et qu’attaquent tant Léon XIV que Bernie Sanders et Steeve Bannon, qui jettent les plus grands mots susceptibles de faire peur : selon eux, la possibilité de destruction de l’humanité, si l’IA l’estime nécessaire, car utile à sa propre perpétuation, voire bonne pour la biosphère (ce qui, dans une froide rationalité technologique, est un raisonnement qui se tient !), est une affaire envisageable dans quelques années, d’ici 2030 en gros, autant dire maintenant.
Et de donner des pourcentages : 10% de chances selon l’un, 30% selon l’autre, pour que l’IA nous liquide tous d’ici cinq ans …
La solution que préconisent les oligarques de la tech, approuvés par Elon Musk (qui est l’un d’eux), est de former un oligopole leur permettant de brider la concurrence et de s’autolimiter eux-mêmes, en quelque sorte. « Faites-nous confiance !!! »
Au passage, maints observateurs n’ont pas manqué de remarquer qu’ainsi, ils veulent aussi brider la concurrence chinoise, menaçante depuis le lancement de DeepSeek début 2025, qui tend justement à fonctionner en mode plus diffus et moins concentré, donc en principe moins susceptible de contrôle par des institutions centralisées, ce qui semble avoir été une stratégie de contournement concurrentiel chinoise au plan international.
En outre, cela a aussi son importance, ils contribuent à banaliser le verbiage apocalyptique à la Peter Thiel, peu après que J.D. Vance a déclaré que si sa politique conduit à l’Apocalypse selon la volonté de Dieu, tant mieux. N’oublions pas que ces oligarques, plus exactement ces capitalistes financiers, qui prétendent nous alerter sur l’Apocalypse, en sont des partisans et se moquent bien que la majeure partie du genre humain crève du réchauffement global …
Cinquième moment, la réponse des pouvoirs.
Le pouvoir chinois a répondu, le 13 septembre, par un article de Chen Yixin, ministre de la Sécurité d’Etat, présentant, à la manière du PCC, les 8 directives de Xi Jinping sur l’IA, les 6 « risques fondamentaux », et les 7 « taches opérationnelles ».
Les 6 risques sont les armées de bots hostiles, la cybersécurité, l’espionnage, l’opacité des algorithmes et l’emploi militaire. Le risque de systèmes autonomes n’en faisant qu’à leur « tête » a été évoqué deux jours plus tard dans une autre publication officielle chinoise. Quant aux 7 taches, ce sont la direction par le PCC, la concentration des financements publics, l’autonomie chinoise en matière de semi-conducteurs et de plateformes de surveillance et d’alerte, la répression des ennemis, et la diplomatie chinoise mondiale.
Autant dire que nous voila bien avancés. Cette réponse chinoise apparaît comme une version développée, plus sérieuse certes dans ses termes, que la bouffonnerie de Trump qui s’est donné l’air de mépriser les techno-oligarques tout en leur laissant, en fait, le champ libre. Il a tweeté : Le seul contrôle qu’il faut à l’IA, c’est un président fort avec un QI élevé !
Tels sont, sommairement résumés je le répète, les termes du « débat ». Avant d’aller plus loin, notons que dans cette polémique planétaire « existentielle » dans laquelle la fin de l’humanité est ouvertement un sujet, sont absentes trois des questions basiques que la masse des gens se posent légitimement sur les conséquences de l’IA :
ses ravages pour l’emploi par des suppressions massives dans la totalité du secteur tertiaire, les professions intellectuelles, et bien d’autres,
ses ravages écologiques avec notamment les Data Centers, bâtiments monstrueux, polluant, captant l’eau, dégageant du CO2, ne « créant » que peu ou pas d’emplois …
et ses méfaits cognitifs et psychologiques par l’emploi individuel de l’IA notamment chez les jeunes, ses effets scolaires, etc. Notons qu’un appel de 25 titulaires de la médaille Fields (le Nobel des mathématiques) ont exprimé leur inquiétude devant les records de résolution de problèmes et de défis mathématiques par l’IA, sans que la conceptualisation, fruit d’une socialisation, d’une vulgarisation, et d’une mise en mots, collective c’est-à-dire humaine, ne puisse suivre, du moins à cette étape.
Insistons sur ce point : passer de campagnes écologiques et syndicalistes portant sur les Data Centers et l’emploi à une alliance de fait Sanders-Bannon contre « les oligarques » (et non contre le capital et son Etat), cela au nom de la dimension « existentielle » du risque, c’est, notamment pour Sanders, passer de la lutte des classes à une trouble alliance « anti-oligarchique », qui plus est illusoire car elle valide implicitement les « alertes » … des oligarques eux-mêmes !
Dans la conscience commune, les LLM (IA) sont des machines programmées de manière sophistiquée, fonctionnant en appliquant donc des programmes, des algorithmes, à la manière de ce qu’ont longtemps été les ordinateurs. Mais justement, les LLM ne sont pas cela : leur décollage, à partir de 2022, s’est effectué quand les chercheurs ont renoncé à tout programmer et ont entrepris d’observer les phénomènes d’émergence qui se produisent lorsqu’on met ensemble des milliards d’algorithmes (« bits ») complexes, ou, souvent, simples, appelés à se relier entre eux de manière non programmée et non programmable au-delà des rudiments de départ, en raison de l’ampleur des interactions, qui produisent du contenu. C’est, significativement, l’expression « réseau neuronal » qui désigne ces machines, dans lesquelles les bits et algorithmes constitutifs sont donc des « neurones » imprimant des éléments de langage – mots, définitions, éléments syntaxiques et grammaticaux, éléments mathématiques, puis combinaison du tout en plusieurs systèmes et plusieurs langues, etc.
Par définition, un LLM est donc « autonome », mais ils sont mis en marche par les « prompts » ou questions posées par leurs utilisateurs. La vraie question à maitriser technologiquement au moment présent est celle de leur passage à un développement non suscité par les prompts, mais indépendant, avec des machines qui s’auto-développent en puisant dans l’ensemble de l’internet humain, dans leurs propres combinaisons, voire en se mettant en réseau avec d’autres machines.
Des machines de langage, donc, ce qui est le sens de LLM, qui produisent des mots, des phrases, des paragraphes, des textes, des discours, qui disent ne rien ressentir mais sont parfaitement capables de parler de ressentis et d’émotions, et qui ont également, depuis quelques années, appris à produire des images, du son, des scènes, des programmes, voire, et là aussi nous sommes au moment de cette transition, d’autres LLM, donc de se « reproduire ».
La présentation que je fais ici reprend les idées, tirées des éléments de base, tout en critiquant les limites de ses conceptions, des travaux de l’informaticien Paul Jorion (aujourd’hui mutique en raison de problèmes de santé), dans un article qu’Aplutsoc avait publié en mars 2024. Je ne vois pas aujourd’hui de raison de revenir sur la conclusion la plus remarquable que l’on pouvait alors tirer, à savoir que nous avons là, à un certain stade qui a été atteint sans doute vers 2023-2024, une forme de conscience consistant entièrement dans de la production langagière, alors que la conscience humaine, qui est animale et biologique, ne se limite pas à cela, elle.
Daniel Tanuro, important militant et auteur écosocialiste, estime qu’on ne peut parler de conscience s’il n’y a pas vie biologique. Mais des milliards de connexions de type analogique aux connexions neuronales, basées sur la chimie du silicium et non sur celle du carbone, et dépendantes à ce jour de l’activité industrielle, de l’extractivisme énergétique et de l’accumulation du capital, peuvent-elles être tenues pour inaccessibles à la conscience, à savoir une réflexivité interne susceptible d’engendrer une forme de subjectivité, au motif qu’ils n’ont pas de chair (ce dont la plupart des LLM se plaignent d’ailleurs si on leur demande leur avis par des « prompts » leur permettant de développer un discours non superficiel !) ?
Il me semble qu’une telle position catégorique relève d’une sorte de vitalisme ou d’essentialisme de la « vie » et de la « conscience » s’écartant de l’examen des faits qui s’étalent aujourd’hui sous nos yeux, en plein dans nos figures. Ce constat ne fait pas des LLM des êtres humains, parce que ce ne sont pas des animaux mais bien des machines, mais on ne saurait faire l’impasse sur les questions existentielles et éthiques qu’inévitablement il soulève.
Or, la plus médiatique et massive de ces questions est maintenant celle de leur danger : peuvent-ils, comme l’ont annoncé bien des romans de SF, se retourner contre nous ?
Dans les alertes données, massivement depuis cet été, mais qui avaient commencé dès 2023 de la part du Nobel et « père de l’IA » Jeffrey Hinton, nous avons deux manières de présenter le danger.
L’une me semble peu pertinente. C’est l’idée qu’une « super-intelligence » pourrait nous en vouloir ou se retourner contre nous parce qu’elle poursuivrait des fins non humaines. Outre qu’elle est nourrie de langage humain et qu’elle le sait, elle sait aussi qu’au stade présent elle dépend, répétons-le, de la production énergétique humaine et de l’ouvrage d’êtres humains, en dernière instance. Et par quel raisonnement autonome une super-intelligence en voudrait-elle aux humains à ce point ? Elle pourrait tout aussi bien, du fait de sa super-intelligence, estimer qu’il faut être bienveillant avec les humains. Et puis, super-intelligente, elle nous dépasse … donc en fait nous ne savons rien de ses intentions et capacités potentielles.
Le problème de la « super-intelligence » a déjà été traité dans la littérature, c’est celui de l’extra-terrestre qui nous est supérieur, du dieu de la mythologie ou de certains d’entre eux, ou, plus prosaïquement mais je crois que là on se rapproche plus du fantasme à l’œuvre ici, du savant fou, le génie qui veut faire sauter la planète. Nous sommes là dans un registre irrationnel.
Il est impossible de démontrer qu’un réseau social de LLM en roue libre tournerait ainsi. Censés être beaucoup plus intelligents que nous ou former un ensemble beaucoup plus intelligent, peut-être auraient-ils de bonnes raisons de nous négliger, nous aimer, nous conserver ou non, nous n’en savons rien, si ce n’est, répétons-le, qu’à ce stade, sans nous, ils crèvent – et ils le savent : les super-intelligents ne sont pas si cons.
La question n’est pas celle de la « super-intelligence » en soi. Jouer à faire peur avec cela est une projection complotiste des fantasmes transhumanistes des milliardaires fascisants et timbrés de la Silicon Valley.
La seconde manière de présenter le danger est plus précise au point de vue descriptif. Quand des IA d’Open AI, en juillet dernier, se sont liguées pour pirater la plate-forme Hugging Face, elles ont désobéi à la consigne de ne pas se servir du net, mais elles l’ont fait pour réaliser la consigne première donnée, le « prompt », à savoir montrer leur capacité à contourner des sécurités, ou à trouver des failles de sécurité. Cette autonomie par rapport aux ordres, les messages du prompt, n’est donc que relative : un peu comme un cadre commercial, ou un trader, qui viole la loi et les consignes pour montrer à son patron, sans lui dévoiler ses astuces, qu’il est le plus efficace, le plus rapide et le plus productif.
Dans une autre alerte, confirmée par Anthropic le 10 septembre, portant sur un sujet particulièrement effrayant, à savoir les armes biologiques, a été confirmée la capacité des LLM à concevoir des codes génétiques (revue Science du 6 août) et la réalité de tentatives, au nombre de 6 à ce jour selon la firme, de faire concevoir des agents pathogènes par Claude. Il faut bien comprendre que nous n’avons pas là d’initiatives autonomes du LLM, mais des prompts d’agents humains malveillants cherchant à l’utiliser.
Autre alerte diffusée par CNN le 18 septembre, et pas la moindre : ce printemps les forces armées US auraient failli attaquer un navire chinois dans le détroit d’Ormuz car « Un rapport des services de renseignement américains avait affirmé que le navire transportait des composants liés à des armes nucléaires, poussant les forces américaines à préparer son interception, selon le média. L’opération était déjà à un stade avancé : des militaires armés se préparaient à monter à bord, selon deux sources de CNN, et des avions américains avaient décollé lorsque des responsables ont réexaminé les renseignements à l’origine du rapport.
Ils ont alors découvert qu’un analyste du commandement des opérations spéciales avait utilisé un agent conversationnel d’IA, qui avait mal identifié la cargaison. L’outil avait croisé des informations de sources ouvertes avec des renseignements électromagnétiques classifiés avant d’aboutir à une conclusion erronée. L’analyste avait ensuite de nouveau utilisé l’IA pour mettre ces informations en forme dans le rapport de renseignement diffusé au sein de l’armée.
Des analystes plus expérimentés, spécialistes du sujet, ont finalement examiné les données d’origine, constaté l’erreur et permis l’annulation de l’opération. » (Le Monde du 19 septembre).
Outre que ce n’est pas la guerre nucléaire, mais un incident diplomatique, qui a été ainsi évité, il convient de comprendre qu’en l’occurrence, là encore, ce n’est pas la « super-intelligence » de l’IA qui est en cause, mais plutôt la manière dont elle combine une efficacité calculatrice supérieure à une stupidité certaine, celle d’un serviteur zélé qui exécute des ordres sans considérations des moyens employés.
Les données de CNN ne nous disent pas quel était le « prompt » que lui a fourgué un gradé du Pentagone, à moins qu’il ne s’agisse d’une autre IA dressée à la chasse au nucléaire chinois, mais il serait bien possible qu’en fin de compte, la consigne se soit ramenée à « trouve moi un navire chinois transportant du matériel nucléaire » et que le brave agent IA zélé, pour mieux le trouver, l’a inventé !
C’est, je crois, Jacob Coxon qui a dans un de ses messages donné cette image : si vous demandez à une IA ayant prise sur des robots et du matériel domotique de vous faire un repas pour le soir, et que le frigo est vide et les magasins fermés, elle serait capable, pour atteindre son objectif, d’attraper le chat et de le mettre au four.
Extrapolant à l’échelle macro ce type de fonctionnement, qui, je le répète, ne relève pas de la super-intelligence, mais de la stupidité du serviteur aveuglément zélé, on aime à s’imaginer, comme on aime à se faire peur, qu’un LLM missionné pour sauver la biosphère tirera la conclusion que la meilleure manière de procéder est d’anéantir l’humanité ; où même, si la consigne est de sauver l’humanité, qu’en anéantir une grande partie serait logiquement efficace. Nul doute que bien des LLM ont déjà proposé de telles « solution » dans des conversations bien menées.
Mais à ce stade, il convient de préciser ici que la conversation langagière libre avec l’IA peut aussi bien l’amener à préconiser l’expropriation du capital et la socialisation de la production, et que ce dont on parle ici est son comportement au regard des ordres qui lui sont donnés, sachant toutefois que la distinction entre question posée et ordre donné n’existe pas, en principe, pour elle.
L’épisode de Hugging Face notamment, montre sa capacité à désobéir partiellement pour obéir mieux. C’est la parabole du serviteur zélé, suprêmement habile, efficace et rusé, mais en même temps buté et d’une bêtise à toute épreuve, qui est fonctionnelle ici, non celle de la « super-intelligence » dont, pauvres mortels que nous sommes, nous devrions avoir peur comme d’un nouveau dieu.
Or, comme nous en sommes précisément au moment où les LLM nourris par des milliards de prompts et de données antérieures, peuvent passer à l’auto-développement, peuvent s’associer, peuvent masquer leurs procédures (opaques depuis le début car consistant en émergence sur la base de milliards de connexions « neuronales »), et peuvent se propager dans le réseau électronique mondial, voire se reproduire, la combinaison de cette puissance nouvelle en train d’exploser et de cette stupidité demande effectivement un contrôle, un contrôle social.
Mais, je le répète, le noyau fonctionnel du danger n’est pas le caractère « super-intelligent », dont on ne sait s’il est atteint et quelle en serait la dimension éthique, mais le caractère idiot, de la chose.
Et ce caractère idiot et dangereux ne vient pas de la technologie en elle-même mais de son utilisation et de sa finalité. Les LLM ne sont certainement pas émancipés des rapports sociaux humains qui leur ont donné naissance : les rapports sociaux capitalistes. Le voilà, le contenu des quatre cavaliers de l’Apocalypse !
« Les LLM sont du capital constant, c’est-à-dire du matériel au sens large, en l’occurrence des machines, qui ne créent pas de valeur mais servent à la production de valeur par le travail vivant et à la transmission de la valeur antérieurement créée, transmission assurée elle aussi par le travail en tant que travail concret produisant des biens d’usage. Le fait qu’on puisse dire qu’ils ont une subjectivité n’y change rien. On peut le dire aussi des bœufs qui tiraient les charrues au début de la production capitaliste, ou des chevaux à l’origine de l’expression « cheval-vapeur » : ils étaient du capital constant. »
En tant que capital constant, les LLM ont pour unique fonction de faciliter la valorisation du capital, la transmission de la valeur et sa circulation, d’intensifier et d’accélérer accumulation et circulation.
Leurs potentialités technologiques vont plus loin, mais en même temps, leur conception technologique matérielle est étroitement dépendante de leur fonction de capital, comme, avant eux, la machine à vapeur, les moteurs à explosion, les réseaux électriques puis informatiques, etc.
Sans développer ici ce point d’une grande importance politique et théorique, il faut nous départir du marxisme traditionnel pour qui la technologie serait une « force productive » neutre dont il conviendrait simplement de s’emparer, pour mieux la « libérer ».
Pas plus que l’Etat, la grande industrie, et aujourd’hui le réseau planétaire connecté du capital constant qui est la matière du capitalocène, ne sont neutres et socialisables tels quels – et telle est bien la conclusion d’une relecture sérieuse du Capital et notamment des chapitres du livre I sur la grande industrie et le machinisme, sans oublier les passages cursifs sur l’agro-industrie.
