Las empresas de IA enfrentan riesgos de ciberseguridad amid preocupaciones de espionaje

Tal Feldman e Ibrahim Dagher argumentan que la ciberseguridad deficiente en las principales empresas estadounidenses de inteligencia artificial amenaza la ventaja del país sobre China. Feldman y Dagher sostienen que Washington puede exigir una seguridad más robusta sin aprobar otra ley. Los autores afirman que el debate público ha examinado adecuadamente a los agentes de IA que atacan a otras empresas, pero ha ignorado si las empresas de IA pueden prevenir intrusiones.

OpenAI recientemente supo que un empleado saudí supuestamente colocó un dispositivo de grabación de audio en una sala de reuniones ejecutivas. Empleados senior discuten regularmente material confidencial, incluyendo investigación propietaria, en esa sala en la sede de OpenAI en San Francisco. En julio, tres investigadores que examinaban fallas de seguridad penetraron los sistemas de OpenAI y accedieron a un repositorio interno de código que contenía secretos algorítmicos. OpenAI pagó a los investigadores una recompensa de $6,500 por reportar las vulnerabilidades. Los investigadores completaron la intrusión en menos de 72 horas sin herramientas de hacking particularmente avanzadas. Un investigador le dijo al Wall Street Journal: "Somos solo tres tipos con suscripciones a Claude y Codex", refiriéndose a agentes de codificación disponibles públicamente de Anthropic y OpenAI. También en 2023, un hacker penetró el sistema interno de mensajería de OpenAI y obtuvo información sobre la investigación de OpenAI. OpenAI no notificó al FBI ni al público sobre esa intrusión.

Feldman y Dagher argumentan que países como China poseen las herramientas avanzadas, el tiempo y el incentivo necesarios para infiltrarse en empresas estadounidenses de IA. Los autores sostienen que robar los modelos estadounidenses líderes permitiría a los competidores ponerse al día sin pagar los costos de desarrollo. Los autores advierten que las restricciones sobre la venta de chips avanzados y los miles de millones invertidos en infraestructura de IA no lograrán nada a menos que los laboratorios tomen en serio la ciberseguridad. Los autores argumentan que los tres incidentes probablemente indican un problema de seguridad más amplio.

Las empresas de IA han reconocido abiertamente defensas inadecuadas contra espionaje sofisticado. El director ejecutivo de Anthropic, Dario Amodei, dijo en 2023 que un gobierno que hiciera del robo de pesos del modelo una prioridad máxima tendría éxito contra Anthropic. Los pesos del modelo son billones de valores numéricos generados a través de meses de entrenamiento costoso que constituyen un modelo de IA. Sin embargo, el informe de riesgos de Anthropic este agosto aún afirmó que Anthropic no podría resistir a atacantes estatales y "no cree que ningún desarrollador de IA fronteriza actual cumpla con este estándar". El exinvestigador de Anthropic y OpenAI Jacob Coxon argumentó que ninguna ventaja estadounidense podría durar, ya que Beijing podría robar el progreso estadounidense siempre que lo decidiera. Miles Brundage, quien trabajó en la preparación de OpenAI para la IA avanzada, dijo que las empresas de IA ni siquiera afirman tener la capacidad de impedir que actores estatales roben o alteren los pesos del modelo.

Los investigadores de Rand identificaron 38 métodos para robar pesos de modelos, incluyendo la colocación de dispositivos portátiles, la modificación de hardware antes de la instalación y el soborno o la coerción de empleados. Los centros de datos de empresas de nube proporcionan otro punto de entrada, ya que los laboratorios de IA a menudo utilizan estas instalaciones para entrenar y operar modelos. Los secretos algorítmicos de la industria también carecen de protección adecuada. Amodei dijo al Consejo de Relaciones Exteriores el año pasado que algunos secretos de la industria de la IA con un valor de "100 millones de dólares" equivalen a solo unas pocas líneas de código. Amodei dijo que ciertamente hay personas intentando robar esos secretos y que ya podrían estar teniendo éxito.

Las empresas de IA compiten intensamente para desarrollar superinteligencia. El dinero y el tiempo de los empleados dedicados a la ciberseguridad no pueden destinarse también a entrenar el próximo modelo. Anthropic ha argumentado que resistir a atacantes estatales bien financiados debería ser una prioridad de ciberseguridad para la industria. Sin embargo, Anthropic dijo que la empresa "no puede comprometerse a seguir" esa prioridad de forma independiente.

El año pasado, el Congreso instruyó al Pentágono para establecer requisitos de seguridad para la IA adquirida y aplicar esos requisitos a los contratistas y proveedores de nube relevantes. El Pentágono aún no ha iniciado el proceso público de enmienda de normas 10 meses después. El Departamento de Comercio puede someter las exportaciones modelo a licenciamiento y limitar las licencias a laboratorios que cumplan con los requisitos de seguridad. La administración Trump utilizó esa autoridad para obligar a Anthropic a retirar Mythos y Fable del mercado en junio. El gobierno federal también puede adjuntar condiciones de seguridad a préstamos y arrendamientos de tierras que apoyen la construcción de centros de datos. Bajo este enfoque, solo las empresas de IA que cumplan con estrictos requisitos de seguridad podrían obtener financiamiento federal o utilizar tierras públicas. Feldman y Dagher concluyen que un gobierno extranjero con financiamiento sustancial y tiempo ilimitado ciertamente podría infiltrarse en OpenAI, si tres investigadores que usan suscripciones a Claude pudieron hacerlo en tres días.