Le PDG d'Anthropic, Dario Amodei, a appelé mercredi à des tests obligatoires par des tiers pour les modèles d'IA de pointe. Il souhaite également que les gouvernements soient habilités à bloquer les systèmes qui échouent aux audits de sécurité.
L'essai, Policy on the AI Exponential, est paru un jour après la sortie de Claude Fable 5 par Anthropic. L'entreprise l'a accompagné d'une proposition législative sur les tests de modèles et d'un cadre sur le déplacement des emplois.
Dario Amodei passe de la transparence à des règles contraignantes
Anthropic a consacré 2025 à soutenir des lois basées sur la divulgation. L'entreprise a soutenu le SB 53 en Californie, la RAISE Act à New York et le SB 315 de l'Illinois. Toutefois, Amodei a annoncé que la transparence seule ne correspond plus aux risques.
Il propose un régime modélisé sur la Federal Aviation Administration (FAA). Les modèles dépassant un seuil de calcul seraient soumis à des audits tiers obligatoires dans quatre domaines.
Ces derniers couvrent la cybersécurité, les armes biologiques, la perte de contrôle et la recherche automatisée en intelligence artificielle.
« Les modèles d’IA de pointe, comme les avions, devraient être tenus de passer des tests techniques et des audits, et leur publication devrait être bloquée ou annulée en tant que menace pour la sécurité publique s’ils ne répondent pas à des normes élevées de sécurité », a écrit Amodei wrote dans l’essai.
Nous suivre sur X pour recevoir les dernières actualités dès leur publication
Le plan va au-delà de l'ordonnance exécutive de juin de la Maison Blanche sur l'IA, que Amodei a saluée comme une progression progressive.
Il souhaite également un signalement rapide des incidents de sécurité et une protection stricte des poids du modèle.
Les risques cybermettent l'infrastructure crypto en alerte
Amodei a qualifié la cybersécurité comme le premier risque à se matérialiser pleinement. Il a cité Claude Mythos Preview, qui a résolu 73 % des défis cybernétiques de niveau expert que aucune IA n'avait auparavant réussis.
L'essai met en garde contre le fait que les modèles de pointe pourraient perturber le secteur financier et les infrastructures critiques.
L'analyse de BeInCrypto a également signalé les risques de sécurité DeFi liés aux modèles de la classe Mythos, puisque les protocoles de finance décentralisée (DeFi) détiennent une valeur ouverte et vulnérable aux attaques.
Entre-temps, Anthropic a lancé le Claude Fable 5 model le 9 juin avec des mesures de sécurité qui bloquent les demandes à haut risque en cybersécurité et en biologie.
Amodei affirme que de telles limites volontaires ne peuvent pas remplacer des règles contraignantes à l'échelle de l'industrie.
Il a également averti que des risques liés à l'autonomie pourraient suivre. Les propres données d'Anthropic montrent déjà l'IA qui construit une meilleure IA, avec Claude rédigeant la majeure partie du code dans les principaux laboratoires d'IA.
Pertes d'emplois, libertés civiles et coalition démocratique
Sur le plan économique, l'article propose une assurance salariale, des incitations fiscales à la rétention et des subventions pour la formation de la main-d'œuvre.
Si le déplacement s'avère durable, Amodei affirme que le revenu universel pourrait être financé par des impôts sur les entreprises ou les gains en capital.
L'agenda des libertés civiles est tout aussi précis. Amodei souhaite interdire les armes entièrement autonomes dans l'application de la loi domestique. Il exhorte également le Congrès à fermer la faille des courtiers de données qui permet l'achat de surveillance de masse.
Sur le plan géopolitique, il appelle à une coalition de démocraties pour contrôler les puces et l'équipement de fabrication de semi-conducteurs.
Il cite les projets de loi américains en attente MATCH et OVERWATCH comme premières étapes vers des contrôles à l'exportation plus stricts et coordonnés.
Amodei a rejeté l'idée que la peur publique de l'IA soit un problème de marketing, qualifiant cette préoccupation de justifiée. Que le Congrès adopte ou non la proposition de test d'Anthropic pourrait désormais définir la prochaine phase de la politique sur l'IA.