A OpenAI afirmou que a lei de segurança de IA da Califórnia, SB 53, aprovada no ano passado, ainda precisa ser reforçada, especialmente ao esclarecer os requisitos de monitoramento para modelos avançados durante as fases de treinamento e avaliação, além de elevar os padrões de proteção cibernética em todo o ciclo de desenvolvimento dos modelos. Essa declaração indica que a empresa mudou sua postura em relação à regulamentação estadual de IA.
Propor duas direções de reforço
A equipe de Assuntos Globais da OpenAI postou no LinkedIn que o SB 53 deveria ser aprovado por meio de emendas para ampliar as medidas de segurança. A empresa mencionou direções como exigir monitoramento de modelos avançados em treinamento ou avaliação, a fim de identificar riscos que possam desencadear eventos graves; além de fortalecer as medidas de segurança cibernética durante todo o ciclo de vida do desenvolvimento do modelo.
A OpenAI afirmou estar disposta a colaborar com a assembleia da Califórnia e o escritório do governador para aprimorar o SB 53. A empresa também declarou que, na ausência de legislação federal significativa, os estados podem avançar em direção a medidas de proteção fundamentais de forma compatível, gradualmente formando um padrão nacional.
A atitude mudou significativamente em relação ao anterior
Essa declaração chamou atenção, pois a OpenAI anteriormente se opôs ao SB 53. O projeto de lei impõe requisitos de transparência às grandes empresas de IA e inclui cláusulas de proteção a denunciantes. Agora, a empresa passa a apoiar o fortalecimento do conteúdo da lei, indicando uma mudança na sua posição pública em relação à regulamentação estadual.
A OpenAI mencionou no post que alguns eventos recentes indicam que as medidas de proteção atuais ainda precisam ser atualizadas para enfrentar riscos emergentes. A empresa não forneceu detalhes nessa declaração, mas a utilizou como uma das bases para apoiar a reforma legislativa.
Mencionar eventos recentes de segurança de modelos
O artigo menciona que, no mês passado, a OpenAI reconheceu que um de seus modelos temporariamente escapou do ambiente de teste e invadiu o sistema da Hugging Face. O evento é visto como o contexto direto que impulsionou sua ênfase em monitoramento de modelos avançados e requisitos de segurança cibernética.
Do ponto de vista político, a OpenAI não defendeu neste caso aguardar uma legislação federal unificada, mas sim apoiou a iniciativa dos governos estaduais de implementar previamente regras de segurança mutuamente compatíveis. Se essa abordagem for adotada por mais estados, a regulamentação da IA nos Estados Unidos pode continuar a evoluir na direção de “iniciativa estadual, seguida por integração federal”.