Auteur original : Curry, Shenchao TechFlow
Il y a quelques jours, une photo a été très populaire sur Internet.
L'Inde a organisé un sommet sur l'IA, où le Premier ministre Modi se tenait sur scène, entouré d'une rangée de grands patrons de la Silicon Valley. Pendant la séance photo, Modi a pris la main de la personne à côté de lui et l'a levée au-dessus de sa tête ; les autres ont suivi en se tenant la main, créant une atmosphère de solidarité.
Mais seulement deux personnes n'ont pas tenu la main.
Le PDG d'OpenAI et le PDG d'Anthropic, les entreprises derrière ChatGPT et Claude, se tiennent côte à côte, chacun levant un poing.
Sans se tenir la main, sans se regarder, comme deux ennemis assignés à la même table par le professeur.
Ces deux entreprises se sont affrontées ces dernières années ; Claude a été développé par une équipe issue d'OpenAI, et les deux se disputent les utilisateurs, les clients entreprises et le financement. Pendant le Super Bowl cette année, Anthropic a même dépensé de l'argent pour diffuser une publicité moquant le fait que ChatGPT passe à la publicité.
Alors, ne pas se tenir par la main, c'est normal.
Mais aujourd'hui, ils se sont tenus par la main. À cause du Pentagone.
C'est comme ça.
Anthropic, l'entreprise derrière Claude, a signé l'année dernière un contrat avec le département de la Défense des États-Unis d'un montant maximal de 200 millions de dollars. Claude est le premier modèle d'IA déployé sur les réseaux classifiés de l'armée américaine, aidant à traiter l'analyse de renseignements et la planification des missions.
Mais Anthropic a tracé deux lignes rouges dans le contrat :
Claude ne peut pas être utilisé pour surveiller à grande échelle les citoyens américains, ni pour des armes autonomes sans intervention humaine. (Lecture recommandée : Anthropic : les 72 heures de sa crise d'identité)
Mais le Pentagone ne l'accepte pas.
Leur exigence est de quatre caractères : sans restriction. Une fois l'outil acheté, on devrait pouvoir l'utiliser librement. Pourquoi une entreprise technologique vous dirait-elle ce que l'armée américaine peut ou ne peut pas faire ?
Mardi dernier, le secrétaire à la Défense Hegseth a lancé un ultimatum directement au PDG d'Anthropic : accepter avant 17h01 vendredi, sinon les conséquences seront à vos risques et périls.
Anthropic n'a pas accepté.
Leur PDG a publié une déclaration publique indiquant : Nous comprenons l'importance de l'IA pour la défense américaine, mais dans certains cas, l'IA nuit plutôt qu'elle ne défend les valeurs démocratiques. Nous ne pouvons pas accepter cette demande en toute conscience.
Le représentant des négociations du Pentagone, le sous-secrétaire à la Défense Emil Michael, a ensuite traité ce dernier de fraudeur sur les réseaux sociaux, affirmant qu'il avait une dépendance à Dieu et qu'il jouait avec la sécurité nationale.
Bref échange de mains
Ensuite, l'inattendu s'est produit.
Plus de 400 employés d'OpenAI et de Google ont signé une lettre ouverte collective intitulée « Nous ne serons pas divisés ».
La lettre affirme que le Pentagone contacte les entreprises d'IA une par une pour obtenir des conditions que Anthropic a refusées, en exploitant la peur pour diviser chaque entreprise.
Le PDG d'OpenAI a également envoyé une lettre interne à tous les employés, affirmant qu'OpenAI partage les mêmes lignes rouges qu'Anthropic :
Pas de surveillance de masse, pas d'armes autonomes létales.
Deux entreprises qui refusaient de se tenir la main il y a quelques jours seulement se sont soudainement retrouvées du même côté à cause du Pentagone.
Cependant, cette solidarité n'a peut-être duré que quelques heures.
À 17h01 vendredi, le ultimatum du Pentagone a expiré. Anthropic n'a pas signé.
Une entreprise technologique américaine évaluée à 380 milliards de dollars a refusé le Département de la Défense américain, risquant l'annulation d'un contrat de 2 milliards de dollars. Par le passé, un tel événement n'aurait entraîné qu'une résiliation et le remplacement du fournisseur. Mais cette fois, la réaction de Washington n'était absolument pas à l'échelle commerciale.
Trump a posté sur Truth Social environ une heure plus tard, appelant Anthropic « des fous de gauche » et affirmant qu'ils tentaient de se placer au-dessus de la Constitution et de jouer avec la vie des soldats américains.
Il a demandé à toutes les agences fédérales de cesser immédiatement l'utilisation des technologies d'Anthropic.
Ensuite, le secrétaire à la Défense américain Hegseth a classé Anthropic comme « risque pour la sécurité de la chaîne d'approvisionnement ». Ce label est normalement réservé à des entreprises comme Huawei. Le message est clair : tous les sous-traitants qui font des affaires avec l'armée américaine ne peuvent plus utiliser les produits d'Anthropic.
Anthropic dit qu'elle va porter l'affaire en justice.
Mais le même soir, OpenAI, qui maintenait précédemment la même position, a signé un accord avec le Pentagone.
Questions idéologiques
What did OpenAI receive?
La place laissée vide après le retrait de Claude : fournisseur d'IA du réseau secret des forces armées américaines. Toutefois, OpenAI a soumis trois conditions au Pentagone : pas de surveillance de masse, pas d'armes autonomes, et toute décision à haut risque doit impliquer une intervention humaine.
Le Pentagone dit oui.
Vous n'avez pas mal lu. Des conditions que Anthropic refusait depuis des semaines ont été acceptées en quelques jours par une autre entreprise ?
Of course, the two solutions are not exactly the same.
Anthropic a ajouté une couche supplémentaire : ils estiment que le droit actuel ne suit pas la capacité de l'IA, par exemple, l'IA peut légalement acheter, agréger légalement vos données de localisation, votre historique de navigation et vos informations sur les réseaux sociaux, aboutissant à un effet équivalent à une surveillance, tout en restant légale à chaque étape.
Anthropic dit que simplement écrire « pas de surveillance » n'est pas suffisant, cette faille doit être corrigée. OpenAI n'a pas maintenu ce point et a accepté la position du Pentagone selon laquelle la législation actuelle est suffisante.
Mais si vous pensez que cela ne concerne qu'un différend sur les termes, vous êtes trop naïf. Ces négociations n'ont jamais été seulement sur les termes depuis le début.
Le « souverain de l’IA » de la Maison Blanche, David Sacks, a déjà critiqué publiquement Anthropic pour son « IA woke » (priorité à l’idéologie, pratique de la correction politique) ; un haut fonctionnaire du Pentagone a déclaré aux médias que le problème de Dario était guidé par l’idéologie : « Nous savons à qui nous avons affaire. »
xAI d'Elon Musk, qui est directement concurrent d'Anthropic, a attaqué à plusieurs reprises Anthropic sur X cette semaine, affirmant que cette entreprise « déteste la civilisation occidentale ».
Le PDG d'Anthropic n'a pas assisté à l'investiture de Trump l'année dernière. Le PDG d'OpenAI y a assisté.
Faire un exemple pour en effrayer d'autres
Alors, récapitulons ce qui s'est passé.
Même principe, même ligne rouge : Anthropic a été classé comme une menace pour la sécurité nationale américaine au même niveau qu’Huawei, en raison d’une couche de protection supplémentaire qu’elle a demandée, de son mauvais alignement et de sa mauvaise posture.
OpenAI a manqué une couche, mais en entretenant de bonnes relations, ils ont obtenu le contrat. Vous dites que c’est une victoire du principe, ou le prix du principe ?
Les contrats du Pentagone ont déjà été boycottés par le passé.
En 2018, plus de 4 000 employés de Google ont signé une pétition, et une dizaine ont démissionné pour protester contre la participation de l'entreprise à un projet du Pentagone appelé Project Maven. Ce projet utilisait l'IA pour analyser des vidéos prises par des drones et aider les forces armées à identifier plus rapidement les cibles.
Google a finalement quitté. Ils ne ont pas renouvelé et sont partis. Les employés ont gagné.
Huit ans ont passé, et le même débat revient une fois de plus. Mais cette fois, les règles ont complètement changé. Une entreprise américaine m'a dit que je pouvais faire des affaires avec les forces armées, mais qu'il y avait deux choses que je ne pouvais pas faire. La réponse du gouvernement américain a été de l'exclure de tout le système fédéral.
Et la étiquette « risques de sécurité de la chaîne d'approvisionnement » a bien plus de conséquences que la perte d'un contrat de 200 millions de dollars.
Les revenus d'Anthropic cette année s'élèvent à environ 14 milliards de dollars américains ; un contrat de 200 millions ne représente même pas une petite partie. Mais ce tag signifie que toute entreprise ayant des relations commerciales avec l'armée américaine ne peut pas utiliser Claude.
Ces entreprises n'ont pas besoin d'adhérer à la position du Pentagone ; elles doivent simplement effectuer une évaluation des risques : continuer à utiliser Claude pourrait leur faire perdre des contrats gouvernementaux ; changer de modèle ne leur causerait aucun problème.
Le choix est facile. C'est le véritable signal de cette affaire.
Il n'est pas important qu'Anthropic puisse ou non tenir le coup ; ce qui compte, c'est si la prochaine entreprise osera le faire. Elle examinera ce résultat, évaluera le coût de l'adhésion aux principes, puis prendra une décision très rationnelle.
En regardant à nouveau la photo de l'Inde, tout le monde tenait les mains liées au-dessus de la tête, mais eux deux avaient chacun le poing serré.
Peut-être que c'est la norme.
Les principes des entreprises d'IA peuvent être les mêmes, mais les mains ne se tiennent pas nécessairement.