Anthropic propose un mécanisme de pause mondiale sur l'IA au moment d'une levée de fonds de 650 millions de dollars et d'un dépôt de dossier pour une introduction en bourse

Selon les observations de Beating, dans son rapport intitulé « When AI Builds Itself », Anthropic propose d'établir un « mécanisme de suspension coordonnée et vérifiable » sur le modèle du traité INF sur le contrôle des armes nucléaires. Le rapport s'oppose explicitement à une suspension unilatérale du développement et insiste sur le fait que seules des laboratoires de pointe pouvant garantir une vérification mondiale pourraient arrêter simultanément leurs activités. Toutefois, une telle suspension coordonnée est techniquement impossible. Le contrôle des armes nucléaires repose sur la surveillance par satellite des silos de missiles, mais les cartes graphiques sont de petite taille, faciles à cacher et peuvent fonctionner en calcul distribué. Pour vérifier si un concurrent effectue secrètement un entraînement, la seule solution serait de mettre en place une surveillance intrusive sur tous les puces GPU, réseaux électriques et centres de données du monde entier. Une telle surveillance globale est non seulement politiquement irréalisable, mais techniquement équivalente à une forme d'autoritarisme de la puissance de calcul. Dans un contexte où la vérification technique est inapplicable, la proposition de suspension coordonnée ressemble davantage à une « carte d'immunité sécuritaire ». Juste avant la publication de ce rapport, Anthropic avait récemment levé 65 milliards de dollars à une valorisation proche d'un billion de dollars et déposé sa demande de cotation en bourse. En fixant comme condition préalable à tout arrêt une vérification mondiale impossible à réaliser, Anthropic ouvre la voie à un entraînement indéfini tout en déchargeant sur un mécanisme de régulation encore inexistant la responsabilité de ne pas pouvoir s'arrêter.