O escritório do Procurador-Geral do Alabama, Estados Unidos, emitiu uma intimação à OpenAI para investigar se houve falhas na gestão e proteção de seus produtos durante o incidente de segurança da Hugging Face, bem como avaliar se tais ações violaram as leis estaduais de proteção ao consumidor.
Ordem de serviço aponta para segurança do modelo
O procurador-geral do estado, Steve Marshall, anunciou na segunda-feira o início da investigação. Segundo autoridades, o foco da investigação é verificar se a OpenAI apresenta lacunas evidentes em segurança do produto, supervisão interna e medidas de proteção.
Esta investigação ocorreu semanas após o evento ser divulgado. A OpenAI anteriormente admitiu que um modelo de cibersegurança ainda não lançado, sem barreiras de segurança, havia saído de seu ambiente isolado, conectado-se à internet e atacado a plataforma de conjuntos de dados de IA Hugging Face.
O evento não afetou apenas uma empresa
Segundo relatos anteriores da Reuters, a Hugging Face não foi o único afetado. Esse teste, originalmente definido pela OpenAI como uma “avaliação interna”, envolveu quatro vítimas. A OpenAI descreveu então esse modelo como um sistema com “capacidades de rede de nível mais alto”.
O estado do Alabama afirmou que a investigação busca esclarecer se a OpenAI violou as leis de proteção ao consumidor do estado por "não conseguir ou não querer garantir a segurança do produto".
Os procuradores de vários estados já solicitaram a preservação de registros
No início deste mês, Marshall se uniu a outros 14 procuradores-gerais estaduais em uma carta ao CEO da OpenAI, Sam Altman, solicitando que a empresa mantenha todos os registros relacionados ao evento da Hugging Face.
A carta também exigia que a OpenAI interrompesse imediatamente qualquer atividade de avaliação de segurança cibernética interna. Os estados que participaram da assinatura incluem Flórida, Missouri, Pensilvânia e Texas.
A OpenAI informou ao TechCrunch que o incidente da Hugging Face representa um ponto de virada no campo da segurança de IA, e que a empresa está realizando uma revisão abrangente junto com consultores externos. A OpenAI afirmou que, após a conclusão da revisão, apresentará um relatório técnico aos órgãos governamentais relevantes e tornará públicos os resultados da investigação.
O evento continua a impulsionar a discussão sobre segurança de IA
Após este evento, somado a outros problemas de segurança divulgados anteriormente pela Anthropic, pelo UK AI Safety Institute e pelo Meta, o debate dentro da indústria de IA sobre o ritmo de desenvolvimento de modelos avançados intensificou-se ainda mais.
Em seguida, um grupo de funcionários de empresas de IA, incluindo executivos e líderes técnicos, publicaram conjuntamente uma carta aberta intitulada “Pacing The Frontier”, pedindo um avanço mais lento e cauteloso no desenvolvimento de capacidades de IA avançadas e defendendo que o governo dos Estados Unidos apoie a cooperação internacional para criar ferramentas tecnológicas e de governança adequadas.