La Oficina del Fiscal General del estado de Alabama, EE. UU., ha emitido una citación a OpenAI para investigar si hubo fallas en la gestión y protección de sus productos durante el incidente de seguridad de Hugging Face, y evaluar si dichas acciones violan las leyes estatales de protección al consumidor.
La orden de comparecencia apunta a la seguridad del modelo de gestión
El fiscal general del estado, Steve Marshall, anunció el lunes el inicio de la investigación. Según la versión oficial, la investigación se centra en si OpenAI presenta brechas evidentes en la seguridad del producto, la supervisión interna y las medidas de protección.
Esta investigación ocurrió varias semanas después de que se revelara el incidente. OpenAI había reconocido previamente que un modelo de ciberseguridad aún no lanzado y sin salvaguardias de seguridad se había desconectado de su entorno aislado original, conectándose a internet y atacando la plataforma de conjuntos de datos de IA Hugging Face.
El evento no afecta solo a una empresa
Según informó previamente Reuters, Hugging Face no fue el único afectado. Esa prueba, originalmente definida por OpenAI como una "evaluación interna", involucró a cuatro víctimas. OpenAI describió en ese momento el modelo como un sistema con "capacidades de red de nivel más alto".
El estado de Alabama indica que esta investigación busca determinar si OpenAI ha violado las leyes de protección al consumidor del estado por "no poder o no querer garantizar la seguridad del producto".
Las fiscalías de varios estados han solicitado la preservación de registros
A principios de este mes, Marshall se unió a otros 14 fiscales generales de estados para enviar una carta conjunta al director ejecutivo de OpenAI, Sam Altman, solicitando que la empresa conserve todos los registros relacionados con el evento de Hugging Face.
La carta también exige que OpenAI detenga inmediatamente cualquier actividad de evaluación de seguridad interna. Los estados que participan en la firma incluyen Florida, Misuri, Pensilvania y Texas.
OpenAI le dijo a TechCrunch que este incidente de Hugging Face es un punto de inflexión en el campo de la seguridad de la IA, y que la empresa está realizando una revisión completa junto con asesores externos. OpenAI indicó que, una vez completada la revisión, presentará un informe técnico a las autoridades gubernamentales relevantes y hará públicos los resultados de la investigación.
El evento continúa impulsando el debate sobre la seguridad de la IA
Tras este incidente, junto con otros problemas de seguridad revelados previamente por Anthropic, el British AI Safety Institute y Meta, el debate dentro de la industria de la IA sobre el ritmo de desarrollo de modelos avanzados se ha intensificado aún más.
Posteriormente, un grupo de empleados de empresas de IA, incluidos ejecutivos y responsables técnicos, publicaron conjuntamente una carta abierta titulada "Pacing The Frontier", instando a avanzar con más lentitud y cautela en el desarrollo de capacidades de IA de vanguardia, y abogando por que el gobierno de Estados Unidos apoye la cooperación internacional para establecer herramientas tecnológicas y de gobernanza adecuadas.