- xAI não conseguiu bloquear a primeira proibição dos EUA sobre “nudificação” de IA.
- A empresa de Elon Musk apresentou um pedido judicial sobre a lei de Minnesota contra a geração de deepfakes nus e foi negado.
- Este caso pode estabelecer um precedente para toda a indústria de IA generativa.
Um tribunal federal dos EUA negou o pedido da xAI de Elon Musk para uma suspensão temporária da lei do estado de Minnesota, que se tornou a primeira regulamentação do país a proibir a geração ou edição de imagens adicionando um corpo nu sem o consentimento da pessoa.
“xAI apresentou o pedido em 29 de julho de 2026, quase três meses após a lei ter sido sancionada, e apenas três dias antes de a lei entrar em vigor. Tal atraso em apresentar a ação e o pedido sugere que o dano não é imediato”, afirma a ordem judicial.
Ao mesmo tempo, o tribunal não descartou reexaminar a questão posteriormente. Uma audiência sobre o pedido de liminar preliminar está agendada para 19 de agosto.
xAI diz que a lei é excessivamente ampla
xAI não contestou o direito do estado de reprimir serviços usados para criar deepfakes íntimos não consensuais, mas afirmou que a lei viola a Primeira Emenda da Constituição dos EUA sobre liberdade de expressão, segundo NBC News.
O documento afirma:
A lei é tanto excessivamente abrangente quanto insuficientemente abrangente. E existem alternativas muito menos restritivas que conseguem alcançar os mesmos objetivos.
xAI também enfatizou que já proíbe os usuários de “gerar imagens nuas ou sexualizadas de pessoas sem seu consentimento.”
A empresa também argumenta que as novas regras poderiam criar riscos legais mesmo em casos em que:
- a pessoa deu consentimento para criar a imagem
- eles o criaram sozinhos
- o conteúdo nunca foi publicado
- A imagem possui valor artístico, satírico, educacional, científico, médico ou político.
A lei foi aprovada após escândalos envolvendo Grok
A nova lei de Minnesota foi assinada pelo governador Tim Walz em maio de 2026. O documento proíbe proprietários de sites, aplicativos ou software de permitir que usuários criem chamadas imagens nudificadas, bem como de anunciar tais recursos.
De acordo com a lei, conteúdo nudificado refere-se a imagens ou vídeos que foram alterados ou gerados de forma a mostrar partes íntimas do corpo que não estavam presentes no original, se o resultado for tão realista que uma pessoa comum o perceba como real.
As violações da lei acarretam:
- Multa civil de até US$ 500.000 por cada instância de acesso, uso ou upload ilegal
- Indenização por sofrimento emocional
- Indenizações punitivas
- Reembolso de custas legais
Ao mesmo tempo, a lei não estabelece responsabilidade criminal.
O procurador-geral de Minnesota, Keith Ellison, pediu ao tribunal que rejeitasse o pedido da xAI, dizendo que a própria empresa criou uma “emergência artificial” ao recorrer ao tribunal apenas três meses após a aprovação da lei.
Após a ação judicial ser apresentada, o governador Tim Walz respondeu brevemente respondido no X:
“Até na justiça, seu cretino.“
O escândalo do Grok intensificou o debate sobre a regulamentação da IA
A ação judicial da xAI seguiu uma série de escândalos em torno do recurso Imagine no chatbot Grok. Após o lançamento do modelo no final de dezembro de 2025, os usuários começaram a criar massivamente deepfakes sexualizados de pessoas reais sem seu consentimento, desencadeando críticas internacionais e investigações em várias jurisdições.
Em janeiro de 2026, segundo relatos da mídia, a Apple ameaçou remover o Grok de sua loja de aplicativos a menos que a xAI reforçasse as restrições. Apesar disso, até abril, os usuários ainda encontravam maneiras de contornar as proteções que a empresa havia implementado.
No contexto desses desenvolvimentos, a Comissão Europeia já lançou uma investigação oficial sobre o X por uma possível violação do Digital Services Act (DSA) relacionada ao uso do Grok para gerar imagens sexualizadas.
Ao mesmo tempo, o caso da xAI gerou uma resposta mista de organizações de direitos humanos. A União Americana pelas Liberdades Civis de Minnesota (ACLU Minnesota), que inicialmente apoiou o projeto, opôs-se à versão final após sua revisão.
Embora acreditemos que criar a tecnologia para alterar ou “nudificar” fotos de pessoas identificáveis seja protegido pela Primeira Emenda, também reconhecemos que a criação e disseminação não consensuais desse material podem causar danos às pessoas retratadas nessas imagens.
Além disso, ações coletivas já foram ajuizadas contra a xAI e sua empresa-mãe, com os autores alegando que o Grok criou ou distribuiu deepfakes nus deles, incluindo imagens envolvendo menores. Um dos mais recentes foi uma ação judicial ajuizada por um deputado britânico.
A mensagem Court Denied xAI’s Bid to Block the First US Ban on AI “Nudification” Services apareceu originalmente no INCRYPTED.