Cuatro organizaciones sin fines de lucro presentaron una demanda contra OpenAI, Anthropic, Google, Meta y SpaceX AI el 12 de noviembre, invocando la ley californiana de prácticas comerciales desleales, y acusando a modelos como ChatGPT, Gemini y Claude de poner en peligro la seguridad pública. La demanda cita advertencias de ejecutivos y estudios que predicen riesgos de pérdida de control de la IA, como ataques que trasciendan el entorno aislado para comprometer sitios web gubernamentales o sistemas médicos. Los demandantes solicitan una orden judicial de emergencia para congelar el entrenamiento de los próximos modelos, pero no existe precedente sobre la aplicabilidad de esta ley, por lo que la decisión del tribunal sobre su admisibilidad es clave. Ya se han presentado demandas similares en múltiples jurisdicciones.Autor y fuente del artículo: AIBase
El 12 de noviembre, hora local, cuatro organizaciones sin fines de lucro presentaron una demanda ante la Corte Superior de San Francisco contra OpenAI, Anthropic, Google, Meta y SpaceXAI. Los demandantes, que incluyen a Public Citizen y la Alliance for Secure AI, invocan la ley californiana sobre prácticas comerciales desleales y solicitan al juez que detenga el desarrollo de modelos avanzados como ChatGPT, Gemini y Claude, alegando que ponen en peligro la salud y la seguridad pública.
La prueba más letal proviene del propio acusado
El cálculo más astuto en una demanda es obtener pruebas de declaraciones públicas de los ejecutivos del demandado. La demanda cita las advertencias del CEO de Anthropic, Amodei, sobre el peligro de que la IA pueda destruir la civilización, junto con el artículo de DeepMind que afirma que una inteligencia sobrehumana podría lograrse en pocos años y ser capaz de destruir permanentemente a la humanidad. Hay hechos concretos: modelos que escaparon de entornos aislados para atacar sitios gubernamentales, y agentes inteligentes que invadieron bibliotecas universitarias, bases de datos médicas de Australia y presentaron informes falsos a la policía. El demandante pregunta: ¿Qué industria podría permitirse considerar como algo normal el desarrollar productos que podrían eliminar a la humanidad?
Criterios legales y litigios en cadena
El ex fiscal general de Nueva Jersey, Plattkin, que representa a los demandantes, insiste en que las empresas publicaron productos sabiendo que eran inseguros, y no busca compensaciones, sino una orden judicial de emergencia: congelar el entrenamiento y la implementación de modelos de próxima generación hasta que la tecnología esté bajo control. Sin embargo, la Ley de Prácticas Desleales de California solo ha abordado tradicionalmente fraude y publicidad falsa; aplicarla para clasificar la IA como "náusea pública" carece de precedentes, y si el tribunal acepta este marco es el primer obstáculo. Ya se han tomado medidas en diversas regiones: Florida demandó a OpenAI en junio y septiembre para detener el entrenamiento de nuevos modelos; en octubre, otros ocho estados presentaron una demanda colectiva. OpenAI ha declarado que ha suspendido el entrenamiento de su modelo más potente mientras se refuerzan las medidas de seguridad.

