Dario Amodei tiene un mensaje para otros ejecutivos de IA que creen que el público solo necesita una mejor comunicación: el problema no es el mensaje, sino el producto.
El CEO de Anthropic publicó un extenso ensayo titulado “Policy on the AI Exponential” que aborda directamente el creciente rechazo contra la inteligencia artificial. En lugar de culpar a la cobertura mediática negativa o al enfoque pesimista de los líderes de la industria, Amodei argumenta que la ansiedad del público sobre la IA se basa en riesgos legítimos y bien documentados. Su diagnóstico: la industria de la IA enfrenta una crisis de confianza, no una crisis de comunicación.
Riesgos reales, miedo real
El ensayo de Amodei identifica cuatro categorías específicas de riesgo que él considera merecen preocupación seria: amenazas de ciberseguridad, desarrollo de armas biológicas, pérdida de control humano sobre sistemas de IA y la perspectiva de investigación y desarrollo completamente automatizados.
Amodei esencialmente considera este razonamiento al revés. La gente no está preocupada porque los líderes de la IA alertan. Están preocupados porque las alertas están justificadas.
Para respaldar esa posición, propone evaluaciones obligatorias de terceros para modelos entrenados con recursos de cómputo significativos. Las pruebas cubrirían las mismas cuatro categorías de riesgo, creando una capa de verificación independiente entre los laboratorios de IA y el público.
$200 millones y un plan de política
Anthropic está respaldando con dinero las palabras de Amodei. La empresa ha comprometido $200 millones para investigación enfocada en comprender los impactos sociales más amplios de la IA.
La inversión financiará el trabajo en cuestiones que van mucho más allá de la seguridad técnica. Amodei ha solicitado explícitamente programas de reaseguro salarial y medidas fiscales dirigidas diseñadas para suavizar las perturbaciones en el mercado laboral que se espera que cause la automatización con IA.
En una entrevista exclusiva con ABC News programada para coincidir con el lanzamiento del ensayo, Amodei presentó propuestas de política adicionales. Entre las más destacadas: otorgar a las agencias gubernamentales la autoridad para detener implementaciones de IA consideradas inseguras.
Su marco preferido se basa en modelos regulatorios existentes. La analogía con la FAA es intencional. La regulación de la seguridad aérea no destruyó la industria aérea. Hizo que volar sea la forma más segura de transporte masivo en la Tierra.