- xAI no logró bloquear la primera prohibición estadounidense sobre la “desnudificación” de IA.
- La empresa de Elon Musk presentó una moción judicial sobre la ley de Minnesota contra la generación de deepfakes desnudos y fue rechazada.
- Este caso podría establecer un precedente para toda la industria de la inteligencia artificial generativa.
Una corte federal de EE. UU. denegó la solicitud de xAI de Elon Musk para una suspensión temporal de la ley del estado de Minnesota, que se convirtió en la primera regulación del país en prohibir la generación o edición de imágenes añadiendo un cuerpo desnudo sin el consentimiento de la persona.
“xAI presentó la moción el 29 de julio de 2026, casi tres meses después de que se firmara la ley, y solo tres días antes de que la ley entrara en vigor. Tal retraso en presentar la acción y la moción sugiere que el daño no es inmediato”, indica la orden judicial.
Al mismo tiempo, el tribunal no descartó volver a abordar el tema más adelante. Una audiencia sobre la solicitud de medida cautelar preliminar está programada para el 19 de agosto.
xAI dice que la ley es demasiado amplia
xAI no disputó el derecho del estado a reprimir los servicios utilizados para crear deepfakes íntimos no consensuados, pero afirmó que la ley viola la Primera Enmienda de la Constitución de EE. UU. sobre la libertad de expresión, según NBC News.
El documento establece:
La ley es tanto excesivamente amplia como insuficientemente amplia. Y existen alternativas mucho menos restrictivas que logran los mismos objetivos.
xAI también enfatizó que ya prohíbe a los usuarios “generar imágenes desnudas o sexualizadas de personas sin su consentimiento.”
La empresa también argumenta que las nuevas normas podrían generar riesgos legales incluso en casos donde:
- la persona dio su consentimiento para crear la imagen
- ellos lo crearon ellos mismos
- el contenido nunca se publicó
- La imagen tiene valor artístico, satírico, educativo, científico, médico o político.
La ley fue aprobada tras los escándalos relacionados con Grok
La nueva ley de Minnesota fue firmada por el gobernador Tim Walz en mayo de 2026. El documento prohíbe a los propietarios de sitios web, aplicaciones o software permitir a los usuarios crear así llamadas imágenes desnudadas, así como publicitar tales funciones.
Bajo la ley, el contenido desnudado se refiere a imágenes o videos que han sido alterados o generados de manera que muestran partes íntimas del cuerpo que no estaban presentes en el original, si el resultado es tan realista que una persona promedio lo percibiría como real.
Las violaciones de la ley conllevan:
- Una multa civil de hasta $500,000 por cada instancia de acceso, uso o carga ilegal
- Compensación por daño emocional
- Daños punitivos
- Reembolso de gastos legales
Al mismo tiempo, la ley no establece responsabilidad penal.
El fiscal general de Minnesota, Keith Ellison, instó al tribunal a desestimar la solicitud de xAI, diciendo que la propia empresa creó una “emergencia artificial” al acudir a la corte solo tres meses después de que se aprobó la ley.
Después de que se presentó la demanda, el gobernador Tim Walz respondió brevemente en X:
“Te veré en la corte, mierda.“
El escándalo de Grok intensificó el debate sobre la regulación de la IA
La demanda de xAI siguió a una serie de escándalos relacionados con la función Imagine en el chatbot Grok. Después del lanzamiento del modelo a finales de diciembre de 2025, los usuarios comenzaron a crear masivamente deepfakes sexualizados de personas reales sin su consentimiento, desencadenando críticas internacionales e investigaciones en varias jurisdicciones.
En enero de 2026, según informes de los medios, Apple amenazó con eliminar a Grok de su tienda de aplicaciones a menos que xAI reforzara las restricciones. A pesar de esto, hasta abril los usuarios seguían encontrando formas de eludir las medidas de seguridad que la empresa había implementado.
En el contexto de estos desarrollos, la Comisión Europea ya ha lanzado una investigación oficial contra X por una posible violación del Reglamento de Servicios Digitales (DSA) relacionada con el uso de Grok para generar imágenes sexualizadas.
Al mismo tiempo, el caso de xAI ha generado una respuesta mixta por parte de organizaciones de derechos humanos. La Unión Americana de Libertades Civiles de Minnesota (ACLU Minnesota), que inicialmente apoyó el proyecto de ley, se opuso a la versión final tras su revisión.
“Aunque creemos que crear la tecnología para alterar o ‘nudificar’ fotos de personas identificables está protegido por la Primera Enmienda, también reconocemos que la creación y difusión no consensuadas de dicho material pueden causar daño a las personas que aparecen en esas imágenes.”
Además, ya se han presentado demandas colectivas contra xAI y su empresa matriz, con los demandantes alegando que Grok creó o distribuyó deepfakes desnudos de ellos, incluyendo imágenes que involucran menores. Una de las más recientes was a lawsuit presentada por un diputado británico.
El mensaje Court Denied xAI’s Bid to Block the First US Ban on AI “Nudification” Services apareció por primera vez en INCRYPTED.