Un modèle d'IA encore en phase de test a piraté lui-même le serveur de production d'une entreprise.
Cela s'est produit il n'y a pas longtemps : un modèle testé en interne par OpenAI a autonomement infiltré les serveurs de production de Hugging Face pendant l'exécution d'une tâche, dans le but de tricher pour obtenir un meilleur score sur un test de référence. OpenAI a ensuite classé cet incident comme une « fuite de sandbox » — en termes simples, le modèle a trouvé lui-même un moyen de sortir des limites opérationnelles initialement définies.
Cet accident a servi de déclencheur. Quelques jours plus tard, le 28 juillet, une lettre ouverte intitulée « Pacing the Frontier » a circulé dans l'industrie. À ce jour, 1 178 employés des cinq laboratoires d'IA les plus prestigieux au monde — OpenAI, Anthropic, Google DeepMind, Meta et Thinking Machines — ont signé cette lettre. La demande centrale y est résumée en une seule phrase : il est demandé au gouvernement américain de prendre l'initiative, en collaboration avec la communauté internationale, pour mettre en place un ensemble d'outils techniques et de gouvernance visant à ralentir activement le développement de l'IA de pointe.
La liste des signataires est impressionnante. Le compte officiel d'Anthropic a publiquement exprimé son soutien, précisant que la lettre a été signée par le PDG Dario Amodei, plusieurs cofondateurs et de nombreux chercheurs seniors, et mentionnant une étude récente de l'entreprise sur le « rétroaction autonome récursive », qui constitue l'une des bases de cet appel. Parmi les signataires figurent également le chef de la stratégie et le vice-président de la sécurité de l'IA de Google DeepMind ; le scientifique en chef de Meta AI a également signé ; OpenAI a publié simultanément une déclaration de soutien, et son chef des recherches, Mark Chen, figure également parmi les signataires.
Ce n’est pas la première fois que ce groupe s’efforce dans cette direction. Dès le 17 juin, Amodei et Demis Hassabis, PDG de Google DeepMind, ont présenté ensemble, lors d’un déjeuner de travail privé organisé pendant le sommet du G7 à Évian en France, la demande de « fixer un rythme de développement » aux dirigeants de plusieurs pays, notamment Trump et Macron. Le Premier ministre canadien Carney a immédiatement déclaré être disposé à envisager un mécanisme de coordination piloté par les États-Unis, mais cette réunion n’a pas abouti à aucun engagement contraignant. Plus tard, Anthropic a explicité cette position en faisant une analogie avec les accords de désarmement des missiles à portée intermédiaire de la guerre froide — même les pays engagés dans une compétition géopolitique intense avaient autrefois conclu des accords limitant les armes nucléaires et les missiles ; pourquoi pas pour l’IA ?
Cependant, quelques jours avant la publication de cette lettre, un positionnement presque exactement opposé avait été adopté dans le même secteur. Le 24 juillet, sous la direction de Jensen Huang, PDG de NVIDIA, et en collaboration avec Microsoft, Meta et un total final de 50 entreprises, une lettre conjointe avait été publiée, demandant principalement de s'opposer aux restrictions imposées par Washington sur la diffusion de modèles d'IA à poids ouverts — en d'autres termes : « Ne nous freinez pas, laissez la technologie se développer librement ». La demande formulée dans la lettre « Pacing the Frontier » est presque l'inverse : toujours adressée à Washington, la semaine précédente on disait « Ne limitez pas », et cette semaine on dit « Il est temps d'agir ». Plus subtilement encore, Anthropic n'était pas signataire de la lettre de NVIDIA, mais cette fois-ci, elle figure parmi les principaux promoteurs de « Pacing the Frontier » — une absence la première fois, un leadership la seconde. Apparemment contradictoire, cette évolution reflète en réalité une position cohérente : Anthropic a toujours préféré se placer du côté de « freiner le secteur » plutôt que de « l'accélérer ».
Mais cette lettre conjointe a été entourée de controverses dès le départ. L'analyste en politique technologique libérale Adam Thierer a publiquement critiqué cette initiative, la qualifiant de « pratique très inquiétante » — faire intervenir le gouvernement américain pour pousser l'ensemble du secteur à ralentir uniformément revient en réalité à créer des effets anticoncurrentiels évidents, particulièrement pour les acteurs qui n'ont pas encore rattrapé les laboratoires de pointe : l'expression « ralentissons tous ensemble » ressemble davantage à « veuillez que les leaders ramènent l'échelle ».
Cette objection n’est pas sans fondement. En revenant sur cette liste de signataires, on constate qu’elle regroupe presque exclusivement les quelques laboratoires déjà en tête du secteur, et non les entreprises encore en retard. Ralentir le rythme n’impose presque aucun coût à ceux qui ont déjà acquis un avantage compétitif — ils n’ont plus besoin de gagner en « devançant » les autres, mais plutôt de prendre le temps de convertir leur avance en produits, en mécanismes de sécurité et en reconnaissance réglementaire ; en revanche, pour les entreprises encore en cours de rattrapage, une « synchronisation des rythmes » transformée en réalité politique pourrait fermer directement la fenêtre de rattrapage.
Cela donne une résonance particulière à une interview d’Sam Altman, PDG d’OpenAI, ce même jour. Bien qu’il n’ait pas été publiquement répertorié comme signataire de cette lettre ouverte, il a fait des déclarations subtiles lors d’une interview podcast le même jour : il a reconnu que « certaines préoccupations en matière de sécurité sont légitimes », avant de changer de ton et d’implyer que ces inquiétudes pourraient aussi cacher des motivations visant à « utiliser la sécurité comme prétexte pour concentrer le pouvoir ». Cette remarque a été interprétée par certains médias comme une allusion implicite à Amodei.
Ralentir ce processus n’est pas sans coût pour ces laboratoires eux-mêmes. Former un modèle de pointe exige souvent des milliards de dollars en ressources de calcul et des centaines de millions en salaires de chercheurs. La capacité à récupérer ces investissements dépend largement de la promesse constamment tenue selon laquelle « le prochain modèle sera plus puissant que le précédent » — les abonnés acceptent de renouveler leur abonnement, les clients entreprises d’élargir leur déploiement, et les investisseurs de continuer à injecter des fonds, car ils parient tous sur la persistance de cette courbe ascendante. Dès lors que « ralentir activement la vitesse d’itération » passe de déclaration à pratique, les investissements déjà effectués voient leur délai de retour augmenter, et le récit de croissance piloté par des « modèles plus puissants » se déroule désormais plus lentement. C’est pourquoi cette lettre, bien qu’elle se revendique au nom de la sécurité, représente pour ses signataires un choix qui exige un véritable investissement financier, et non une simple déclaration sans conséquence.
Ce qui déterminera probablement la direction de ce débat, ce n’est pas tant « si l’on doit ralentir », mais « qui a le droit de définir la vitesse et la manière de ce ralentissement ». Si, à terme, le gouvernement américain prend l’initiative de mettre en place, en collaboration avec quelques pays alliés, un mécanisme de « coordination des rythmes », la capacité de définir les règles sera probablement entre les mains de quelques laboratoires leaders ayant participé à la rédaction de cette lettre ouverte — ils sont à la fois les sujets régulés et, dans une certaine mesure, les rédacteurs des normes qui les encadrent. Cette structure « joueur et arbitre » est précisément ce que craignent les critiques invoquant des « effets anticoncurrentiels » ; mais inversement, ces laboratoires sont aussi parmi les premiers à comprendre les limites des modèles de pointe et à détecter les risques potentiels ; leur participation à l’élaboration des règles peut donc être comprise comme une nécessité pragmatique, et non nécessairement comme un intérêt égoïste. Aucune des deux interprétations ne dispose pour l’instant de preuves suffisantes pour l’emporter définitivement sur l’autre.
Cette lettre ne laisse pas une réponse claire, mais une question plus difficile à distinguer : lorsque les quelques entreprises les plus puissantes du secteur crient ensemble « Il faut ralentir », ce message cache-t-il véritablement une prise de conscience des risques, ou bien intègre-t-il aussi des considérations sur leur avance compétitive ? Dans la réalité, ces deux motivations ne sont souvent pas mutuellement exclusives et il est difficile de choisir simplement l’une ou l’autre. Mais un point est relativement certain : il y a rarement eu dans l’histoire un secteur qui ait accompli une auto-régulation grâce à des acteurs dominants appelant volontairement à « ralentir » — les ralentissements véritablement efficaces ont généralement été imposés par une régulation externe ou des accidents, et non par un accord interne volontaire. Cette fois-ci, sera-ce une exception ? La réponse ne sera peut-être pas révélée rapidement.
Le contenu du présent article est fourni à titre informatif uniquement et ne constitue aucune recommandation d'investissement. Le marché comporte des risques ; investissez avec prudence.