Anthropic propone un marco de regulación de IA con autoregulación y salvaguardias legales

El proyecto de ley filtrado de Anthropic exigiría a los grandes desarrolladores de IA redactar y cumplir marcos de seguridad que describan cómo los desarrolladores abordan los riesgos e incidentes críticos de seguridad. Politico informó sobre el proyecto de ley el viernes. El CEO de Anthropic, Dario Amodei, abogó por una regulación de la IA similar a los estándares mínimos de la Administración Federal de Aviación para el diseño de aeronaves en un ensayo de junio. La FAA también certifica fábricas de aeronaves y tiene autoridad significativa para revocar la certificación de aeronavegabilidad. Los marcos de seguridad propuestos por Anthropic serían legalmente vinculantes, con empresas que presentarían declaraciones anuales de cumplimiento al Departamento de Comercio, pero dejarían a los laboratorios un amplio margen para autorregularse. La decisión de Anthropic de circular una legislación con su propia marca ha generado críticas tanto de defensores de la seguridad de la IA como de opositores a la regulación cercanos a la administración Trump.

La propuesta del senador Maria Cantwell establecería que el Instituto Nacional de Estándares y Tecnología defina estándares contra los cuales se evaluarán los laboratorios de IA. La Ley Frontier de los representantes Jay Obernolte y Lori Trahan exigiría a los laboratorios elaborar planes que cumplan con los estándares mínimos establecidos por el Departamento de Comercio. La Ley Frontier requeriría organizaciones de verificación independientes para desarrolladores de IA muy grandes, autorizadas por el Departamento de Comercio. El borrador de Anthropic, en cambio, exigiría que auditores independientes registrados y calificados por el Departamento de Comercio verifiquen las medidas de seguridad de las empresas de IA. El enfoque de Anthropic otorgaría al gobierno menos supervisión y poder directo sobre los evaluadores. Los críticos han advertido que la dependencia de los auditores de las empresas de IA para su compensación podría incentivar a las empresas a seleccionar auditores que ofrezcan evaluaciones favorables. Samuel Hammond, director de política de IA en la Fundación para la Innovación Americana, dijo que el borrador parecía inconsistente con el fuerte apoyo público de Anthropic a una regulación robusta.

El borrador de Anthropic define los modelos frontera cubiertos como aquellos entrenados utilizando más de 10 septillones de cálculos, es decir, 10 elevado a la potencia de 25. La Frontier Act y la ley de transparencia y seguridad de IA de California utilizan un umbral de 100 septillones de cálculos, o 10 elevado a la potencia de 26. Varias disposiciones, incluyendo los requisitos de marco de seguridad, se aplicarían únicamente a grandes laboratorios con ingresos superiores a $500 millones o gastos que excedan los $1 mil millones. Los requisitos de informes también se aplicarían a desarrolladores de modelos frontera más pequeños. La empresa de investigación en IA Epoch AI afirma que varios modelos lanzados en 2024, incluyendo Google Gemini y los modelos Meta Llama, utilizaron entre 10 y 50 septillones de operaciones de entrenamiento. Epoch AI estima que el reciente modelo GPT-6 Astra de OpenAI utilizó 940 septillones de operaciones de entrenamiento. El ex "czar" de IA de la Casa Blanca David Sacks, copresidente del Consejo Presidencial de Asesores en Ciencia y Tecnología, ha argumentado que Anthropic busca una regulación que cargue a sus competidores más pequeños. Sacks dijo que el borrador eventualmente cubriría a la mayor parte de Silicon Valley y dañaría a las start-ups, ya que la definición incluye cálculos de afinamiento y modificación del modelo.

El borrador de Anthropic requeriría que el Departamento de Comercio obtenga una decisión judicial antes de forzar una pausa en el desarrollo de IA de vanguardia. El Departamento de Comercio tendría que establecer, por preponderancia de evidencia, un riesgo inminente de muerte o lesiones graves para más de 50 personas, o daños materiales superiores a $1 mil millones. Sneha Revanur, fundadora y presidenta de Encode Action, argumentó que el gobierno necesita mayor flexibilidad de emergencia y calificó las protecciones propuestas por Anthropic como interesadas. La administración Trump utilizó una directiva de control de exportaciones legalmente cuestionable para cerrar el modelo Fable de Anthropic a principios de este año, lo que dio a Anthropic motivos para buscar protección contra cierres arbitrarios. El funcionario superior del Departamento de Defensa Emil Michael, vicepresidente del grupo de trabajo sobre Superinteligencia de Trump, dijo el lunes a The Information que la administración conserva la autoridad de control de exportaciones para exigir a los laboratorios de IA que retiren sus modelos.

La propuesta de Anthropic se asemeja a la legislación negociada entre la senadora Amy Klobuchar y el líder de la mayoría del Senado, John Thune, bajo la presidencia del Comercio del Senado, Ted Cruz. Cruz y Sacks han apoyado previamente la preeminencia de las leyes estatales de IA y un enfoque regulatorio federal extremadamente limitado. Anthropic podría estar intentando ganar favor y parecer constructiva en política de IA con la administración Trump tras un largo período de relaciones tensas. Una persona no identificada que trabaja en política de IA en Washington calificó a Anthropic de ingenua por circular legislación con marca propia y describió al equipo de asuntos federales de Anthropic como desesperado por parecer constructivo.

El borrador de Anthropic anticiparía las leyes estatales que regulan la divulgación pública, la notificación de incidentes y la evaluación de terceros. El borrador no afectaría otras leyes que rigen la seguridad infantil y los derechos civiles. Sin embargo, el borrador deja en duda si los estados podrían seguir utilizando poderes de emergencia para cerrar modelos. El abogado general Encode, Nathan Calvin, calificó las disposiciones de prelación como de alcance amplio y dijo que una de ellas parecía destinada a impedir que los estados hicieran cumplir leyes o decretos judiciales que suspendan el desarrollo, la implementación o el uso interno de modelos de IA. La próxima legislación sobre IA probablemente implicará un equilibrio entre estándares nacionales y cierta prelación de leyes estatales buscada por los defensores de un desarrollo más rápido de la IA. Varios asesores del Capitolio, defensores de políticas y lobistas esperan que este grupo intente nuevamente imponer prelación durante la sesión de sesiones caducas. Anthony Cimino, jefe de asuntos federales de Anthropic, dijo que la prelación debería garantizar una política nacional generalmente más fuerte y amplia que las disposiciones individuales de los estados, y enfatizó que la prelación en materia de seguridad de la IA debería ser limitada.