Anthropic propose un cadre de régulation de l'IA avec auto-régulation et garanties légales

Le projet de loi fuité d'Anthropic exigerait que les grands développeurs d'IA élaborent et respectent des cadres de sécurité décrivant la manière dont les développeurs gèrent les risques et les incidents critiques de sécurité. Politico a rapporté ce projet de loi vendredi. Dario Amodei, PDG d'Anthropic, a plaidé en juin pour une régulation de l'IA inspirée des normes minimales de la Federal Aviation Administration pour les conceptions d'aéronefs dans un essai. La FAA certifie également les usines d'aéronefs et dispose d'un pouvoir significatif pour révoquer la certification de navigabilité des aéronefs. Les cadres de sécurité proposés par Anthropic seraient juridiquement contraignants, les entreprises devant soumettre des déclarations annuelles de conformité au Département du Commerce, tout en laissant aux laboratoires une large marge de manœuvre pour s'autoréguler. La décision d'Anthropic de diffuser un projet de loi portant son propre nom a suscité des critiques à la fois des défenseurs de la sécurité de l'IA et des opposants à la régulation proches de l'administration Trump.

La proposition du sénateur Maria Cantwell prévoirait que l'Institut national des normes et de la technologie établisse des normes selon lesquelles les laboratoires d'IA seraient évalués. La loi Frontier des représentants Jay Obernolte et Lori Trahan exigerait que les laboratoires rédigent des plans répondant aux normes minimales définies par le Département du Commerce. La loi Frontier prévoirait également l'octroi de licences à des organismes de vérification indépendants pour les très grands développeurs d'IA, sous l'autorité du Département du Commerce. Le projet d'Anthropic exigerait plutôt que des auditeurs indépendants enregistrés et évalués par le Département du Commerce vérifient les mesures de sécurité des entreprises d'IA. L'approche d'Anthropic accorderait au gouvernement une supervision et un pouvoir directs moindres sur les évaluateurs. Des critiques ont averti que la dépendance des auditeurs à la rémunération fournie par les entreprises d'IA pourrait les inciter à choisir des auditeurs offrant des évaluations favorables. Samuel Hammond, directeur de la politique sur l'IA à la Fondation pour l'innovation américaine, a déclaré que ce projet semblait incohérent avec le fort soutien public d'Anthropic en faveur d'une réglementation robuste.

Le projet d'Anthropic définit les modèles de pointe couverts comme des modèles entraînés à l'aide de plus de 10 septillions de calculs, soit 10 puissance 25. La Frontier Act et la loi californienne sur la transparence et la sécurité de l'IA utilisent un seuil de 100 septillions de calculs, soit 10 puissance 26. Plusieurs dispositions, notamment les exigences en matière de cadre de sécurité, ne s'appliqueraient qu'aux grands laboratoires ayant un chiffre d'affaires supérieur à 500 millions de dollars ou des dépenses dépassant 1 milliard de dollars. Les obligations de déclaration s'appliqueraient également aux développeurs de modèles de pointe plus petits. L'entreprise de recherche en IA Epoch AI affirme que plusieurs modèles publiés en 2024, notamment Google Gemini et les modèles Meta Llama, ont utilisé entre 10 et 50 septillions d'opérations d'entraînement. Epoch AI estime que le récent modèle GPT-6 Astra d'OpenAI a utilisé 940 septillions d'opérations d'entraînement. L'ancien « czar » de l'IA à la Maison Blanche, David Sacks, coprésident du Conseil des conseillers scientifiques et technologiques du président, a soutenu qu'Anthropic souhaite une réglementation qui pèse sur ses concurrents plus petits. Sacks a déclaré que le projet finirait par couvrir la majeure partie de la Silicon Valley et nuire aux start-ups, car la définition inclut les calculs liés au fine-tuning et à la modification des modèles.

Le projet d'Anthropic exigerait que le Département du Commerce obtienne une décision judiciaire avant d'imposer une suspension du développement des IA de pointe. Le Département du Commerce devrait établir, par prépondérance des preuves, un risque imminent de décès ou de blessures graves pour plus de 50 personnes, ou des dommages matériels dépassant 1 milliard de dollars. Sneha Revanur, fondatrice et présidente d'Encode Action, a affirmé que le gouvernement avait besoin d'une plus grande flexibilité en cas d'urgence et a qualifié les protections proposées par Anthropic d'égoïstes. L'administration Trump a utilisé cette année une directive de contrôle des exportations juridiquement douteuse pour fermer le modèle Fable d'Anthropic, ce qui donne à Anthropic des raisons de chercher une protection contre des fermetures arbitraires. Emil Michael, haut fonctionnaire du Département de la Défense et vice-président du groupe de travail sur la superintelligence de Trump, a déclaré lundi à The Information que l'administration conservait son autorité en matière de contrôle des exportations pour obliger les laboratoires d'IA à retirer leurs modèles.

La proposition d'Anthropic ressemble à une législation négociée entre la sénatrice Amy Klobuchar et le leader de la majorité au Sénat John Thune sous la présidence du comité du Sénat sur le commerce, Ted Cruz. Cruz et Sacks ont déjà soutenu la préemption des lois étatiques sur l'IA et une approche réglementaire fédérale extrêmement limitée. Anthropic pourrait tenter de gagner en faveur et d'apparaître constructif sur la politique de l'IA auprès de l'administration Trump après une longue période de relations tendues. Une personne non identifiée travaillant sur la politique de l'IA à Washington a qualifié Anthropic de naïve pour avoir diffusé une législation marquée et a décrit son équipe des affaires fédérales comme désespérée à l'idée d'apparaître constructive.

Le projet d'Anthropic préempterait les lois étatiques régissant la divulgation publique, la déclaration d'incidents et l'évaluation par des tiers. Le projet n'affecterait pas d'autres lois concernant la sécurité des enfants et les droits civils. Toutefois, le projet laisse floue la question de savoir si les États pourraient toujours utiliser leurs pouvoirs d'urgence pour suspendre les modèles. Nathan Calvin, conseiller général, a qualifié les dispositions de préemption de très étendues et a indiqué qu'une disposition semblait destinée à empêcher les États d'appliquer des lois ou des ordonnances judiciaires suspendant le développement, le déploiement ou l'utilisation interne des modèles d'IA. La future législation sur l'IA devrait impliquer un compromis entre des normes nationales et une certaine préemption des lois étatiques demandée par les défenseurs d'un développement plus rapide de l'IA. Plusieurs collaborateurs du Capitole, défenseurs de politiques et lobbyistes s'attendent à ce que ce camp tente à nouveau d'imposer une préemption lors de la session « lame duck ». Anthony Cimino, responsable des affaires fédérales d'Anthropic, a déclaré que la préemption devrait garantir une politique nationale généralement plus forte et plus large que les dispositions individuelles des États, et a souligné que la préemption en matière de sécurité de l'IA devrait être limitée.