Quand une entreprise privée américaine fixe les règles mondiales de l’IA, les démocraties ont-elles encore leur mot à dire ?

Imaginez un fabricant d’armes qui réunit lui-même la conférence internationale sur le désarmement, propose les règles de vérification, et se positionne en arbitre de la sécurité mondiale. C’est, à peu de choses près, ce qu’Anthropic vient de faire avec l’intelligence artificielle.

Le 5 juin 2026, Jack Clark, cofondateur d’Anthropic, et Marina Favaro, directrice de l’Anthropic Institute, le centre de réflexion de l’entreprise, ont publié un long texte appelant les principaux laboratoires mondiaux d’IA à se coordonner pour ralentir, voire suspendre temporairement, le développement des modèles les plus avancés. L’objectif affiché : laisser le temps aux sociétés et aux institutions démocratiques de « suivre le rythme » d’une technologie qui échappe déjà, selon eux, à tout contrôle raisonnable. L’annonce intervient quelques jours seulement après qu’Anthropic a levé 65 milliards de dollars de financements supplémentaires, portant sa valorisation à 965 milliards de dollars, et déposé un dossier confidentiel auprès des autorités boursières américaines en vue d’une introduction en Bourse.

« Avant que nous ne perdions la barre »

Le risque central identifié par Anthropic porte un nom technique : l’auto-amélioration récursive. Le concept est simple à comprendre, même s’il sonne comme de la science-fiction. Aujourd’hui, des équipes d’ingénieurs humains conçoivent, entraînent et améliorent les modèles d’IA. Dans un scénario d’auto-amélioration récursive, c’est l’IA elle-même qui deviendrait capable de concevoir et d’entraîner sa propre version suivante, génération après génération, avec un rôle humain progressivement réduit, puis nul. La machine améliorerait la machine. Sans que personne ne tienne plus vraiment la barre.

Anthropic assure ne pas en être là. Mais les données internes qu’elle publie à l’appui de son appel sont frappantes. En mars 2024, son modèle Claude Opus 3 était capable d’exécuter des tâches logicielles nécessitant environ quatre minutes de travail humain. En mai 2026, Claude Opus 4.6 gère des tâches équivalant à douze heures de travail d’un ingénieur confirmé. Le taux de doublement des capacités est passé de sept à quatre mois. Plus de 80 % du code produit en interne chez Anthropic est désormais rédigé par Claude lui-même. Un ingénieur de l’entreprise confie dans le texte qu’il n’a « plus écrit une seule ligne de code depuis cinq mois ».

Si la tendance se poursuit, estime l’Anthropic Institute, des tâches prenant plusieurs semaines à un humain pourraient passer à portée de l’IA dès cette année. Et les tâches de plusieurs semaines, d’ici 2027.

Le pompier qui vend des allumettes

La proposition d’Anthropic a immédiatement suscité des réactions sceptiques, y compris dans le secteur technologique. Kylan Gibbs, directeur général d’Inword AI, a fait valoir que l’entreprise cherche avant tout à « façonner les réglementations à son avantage ». En se positionnant comme l’acteur qui alerte les gouvernements sur les dangers de l’IA, Anthropic s’assurerait une place privilégiée dans les discussions réglementaires à venir. La mécanique serait redoutablement efficace : ceux qui sonnent l’alarme sont les premiers consultés quand vient l’heure de rédiger les règles.

Le timing nourrit le doute. La proposition arrive au moment précis où Anthropic prépare son entrée en Bourse, où sa valorisation a quasi triplé en trois mois, et où l’entreprise a elle-même renoncé à un engagement interne antérieur de cesser son développement si les conditions devenaient dangereuses. Un porte-parole a d’ailleurs précisé, après la publication, qu’Anthropic ne demandait pas une pause immédiate, mais seulement la mise en place de systèmes permettant d’en décider une éventuellement. Nuance de taille.

L’appel a également un air de déjà-vu. En mars 2023, le Future of Life Institute avait déjà réclamé une suspension d’au moins six mois du développement des modèles plus puissants que GPT-4. La lettre avait réuni des milliers de signataires, dont Elon Musk et l’historien Yuval Noah Harari. Elle n’avait débouché sur rien. La différence notable avec 2026 tient à la source : c’est cette fois un des laboratoires de tête qui propose lui-même le dispositif de freinage.

Un vide démocratique béant

Derrière le débat sur les intentions d’Anthropic, la question politique de fond reste entière : qui décide du rythme auquel l’intelligence artificielle transforme nos sociétés ? Aujourd’hui, la réponse honnête est : des entreprises privées américaines, sous la pression de leurs investisseurs et de la compétition géopolitique avec la Chine.

L’Europe, qui s’était dotée de l’AI Act, le règlement sur l’IA présenté comme le premier au monde, est en train d’en rogner elle-même les ambitions. Le 7 mai 2026, le Parlement européen et le Conseil de l’UE ont trouvé un accord pour simplifier et alléger plusieurs obligations du texte, dans le cadre d’un paquet de mesures dit « Omnibus numérique ». L’entrée en vigueur des règles sur les systèmes à haut risque a été repoussée. Le message envoyé aux entreprises technologiques est sans ambiguïté : la compétitivité prime sur la précaution.

Aux États-Unis, le Congrès examine de son côté un projet de loi, le « Great American Artificial Intelligence Act of 2026 », qui vise à empêcher les États fédérés d’adopter leurs propres règles sur l’IA pendant trois ans, au nom de l’unité du marché national. Objectif officieux : éviter que la Californie ou New York n’imposent des contraintes que l’administration fédérale juge trop pesantes pour la compétitivité américaine face à Pékin.

Dans ce paysage, l’appel d’Anthropic à une coordination internationale ressemble moins à une solution qu’à la mise en évidence d’un manque criant. L’entreprise cite le précédent du traité FNI sur les forces nucléaires à portée intermédiaire, signé en 1987 entre les États-Unis et l’URSS. Elle reconnaît elle-même que ce traité a pris des décennies à se construire, et que le temps presse davantage pour l’IA, une technologie « bien plus facile à dissimuler que des silos de missiles ».

« Qui vérifie que les autres ont vraiment arrêté ? »

C’est précisément là que le projet achoppe. Une pause coordonnée suppose que chacun des acteurs puisse vérifier que les autres ont réellement stoppé leurs travaux. Or les entraînements de modèles d’IA ne laissent pas de traces aussi visibles que des installations militaires. Ils se font sur des serveurs répartis dans le monde entier, souvent hébergés chez des tiers (Amazon Web Services et Google Cloud assurent l’essentiel de l’infrastructure d’Anthropic elle-même). La détection d’une violation serait, de l’aveu même de l’entreprise, bien plus compliquée que pour tout autre traité de désarmement connu.

Le risque de « passager clandestin » est réel : celui qui continue pendant que les autres font une pause héritera du leadership technologique. Dans une course où la valorisation d’Anthropic a quasi triplé en trois mois, l’incitation à tricher est considérable. Donald Trump a certes évoqué la possibilité d’une coopération avec la Chine sur la sécurité de l’IA lors d’une récente visite à Pékin. Mais il s’agit pour l’instant d’une déclaration d’intention, loin d’un cadre contraignant.

L’Anthropic Institute a annoncé vouloir organiser, dans les prochains mois, des réunions rassemblant décideurs politiques, chercheurs, organisations de la société civile et autres laboratoires d’IA. L’entreprise s’est engagée à publier les résultats de ces discussions. Ce que vaudront ces concertations face aux dynamiques financières et géopolitiques en jeu, c’est ce que les prochaines semaines devraient commencer à révéler.