O governador da Califórnia, Newsom, assinou um marco legislativo de regulamentação de IA, exigindo que modelos com trilhões de parâmetros passem por testes de red team e auditoria de terceiros antes do lançamento.Autor do artigo, fonte: AIBase
O governador da Califórnia, EUA, Gavin Newsom, assinou oficialmente um pacote de leis de regulamentação de inteligência artificial de marco histórico. Destaca-se que este novo conjunto de leis, destinado a reforçar a avaliação de riscos de segurança de modelos avançados, a divulgação de transparência e a prevenção de ataques cibernéticos catastróficos, recebeu o raro apoio e endosso público de várias empresas líderes de IA da Vale do Silício, incluindo a OpenAI e a Anthropic, durante as negociações legislativas anteriores.
Modelos de trilhões de parâmetros devem passar por “exercícios de equipe vermelha + auditoria de terceiros” antes do lançamento
Nos últimos anos, com a expansão exponencial da capacidade de computação da IA generativa e o avanço das capacidades autônomas dos modelos básicos de ponta, as preocupações com o possível uso indevido da IA para danos a infraestruturas críticas, desenvolvimento automatizado de armas bioquímicas, manipulação em larga escala por deepfakes e exploração de vulnerabilidades graves de cibersegurança têm aumentado. Diante do estancamento contínuo no Congresso dos EUA quanto à legislação federal sobre IA, a assembleia estadual da Califórnia assumiu nos últimos anos o papel de líder nacional na legislação sobre IA.
Os vários projetos de lei assinados nesta ocasião focam-se na regulamentação legal de padrões de teste de segurança para modelos base de grande escala, exigindo que os desenvolvedores de modelos realizem exercícios padronizados de red teaming, estabeleçam protocolos rigorosos de mitigação de riscos catastróficos e apresentem aos órgãos reguladores estaduais relatórios de conformidade de segurança auditados independentemente por terceiros antes do treinamento e implantação de sistemas avançados com trilhões de parâmetros.
Diferentemente da proposta regulatória radical anterior que causou forte agitação na Silicon Valley e enfrentou forte oposição de grandes empresas de tecnologia e fundos de risco, este pacote de leis incorporou profundamente sugestões técnicas de laboratórios de IA avançados durante seu desenvolvimento e revisão. A Anthropic e a OpenAI anteriormente expressaram sérias preocupações com cláusulas excessivamente rígidas que poderiam sufocar o desenvolvimento da comunidade open source ou ampliar indefinidamente a responsabilidade civil conjunta; após intensos lobby e ajustes nas cláusulas, a lei final implementada concentra-se mais em estabelecer um “quadro transparente de avaliação de risco prévia” e “padrões de melhores práticas de segurança da indústria”, em vez de definir diretamente limites técnicos rígidos ou implementar medidas punitivas inviáveis, conquistando assim o apoio colaborativo das principais instituições de pesquisa em IA dentro do quadro legal.
Deepfakes must be watermarked, whistleblowers are protected by law
Além da revisão de segurança subjacente, a lei abrange normas para identificação e marca-d'água de conteúdo gerado por IA, exigindo que plataformas e principais canais de distribuição de conteúdo adicionem impressões digitais digitais em nível de sistema a áudios e vídeos deepfake, a fim de prevenir a disseminação de desinformação eleitoral e fraudes pessoais maliciosas. Ao mesmo tempo, a lei oferece proteção legal mais clara aos funcionários internos e pesquisadores que descobrem e denunciam vulnerabilidades de segurança significativas nos modelos, proibindo empresas de retirar o direito de técnicos relatarem falhas de segurança catastróficas às autoridades reguladoras por meio de acordos de confidencialidade rigorosos.
Essa medida marca um caminho regulatório relativamente reconhecido pela indústria, no qual a Califórnia, como o centro global de pesquisa e desenvolvimento de IA, busca equilibrar linhas vermelhas de segurança rigorosas com a manutenção da vitalidade inovadora do setor.