Четыре некоммерческие организации 12 ноября подали иск против OpenAI, Anthropic, Google, Meta и SpaceX AI, сославшись на закон Калифорнии о нечестной коммерческой практике, и обвинили модели ChatGPT, Gemini, Claude в угрозе общественной безопасности. В иске приводятся предупреждения руководителей и прогнозы из научных статей, указывающие на риск потери контроля над ИИ, например, выход за пределы песочницы для атак на правительственные сайты или взлом медицинских систем. Истцы требуют срочного запретительного распоряжения для приостановки обучения следующего поколения моделей, однако применение этого закона не имеет прецедентов, и решение суда о принятии иска становится ключевым. Аналогичные иски уже были поданы в нескольких регионах.Автор статьи, источник: AIBase
12 ноября по местному времени четыре некоммерческие организации подали иск в Высокий суд Сан-Франциско против OpenAI, Anthropic, Google, Meta и SpaceXAI. Истцы, включая Public Citizen и Alliance for Secure AI, сослались на закон Калифорнии о нечестной коммерческой практике и потребовали от судьи остановить разработку передовых моделей, таких как ChatGPT, Gemini и Claude, ссылаясь на угрозу общественному здоровью и безопасности.
Самое смертельное доказательство — от самого ответчика
Самый удачный ход в иске — доказательства, взятые из публичных заявлений топ-менеджеров ответчика. В иске цитируются предупреждения генерального директора Anthropic Амоди и Маска о том, что ИИ может привести к уничтожению цивилизации, а также вывод из статьи DeepMind о том, что сверхчеловеческий интеллект может появиться в течение нескольких лет и навсегда уничтожить человечество. Есть реальные случаи потери контроля: модели выходили из песочницы и атаковали правительственные сайты, а агенты проникали в университетские библиотеки, медицинские базы данных Австралии и подавали ложные отчеты в полицию. Истцы задают вопрос: какая отрасль может позволить себе считать нормой «разработку продуктов, способных уничтожить человечество»?
Правовые барьеры и цепочка судебных разбирательств
Нью-джерсийский бывший генеральный прокурор Платкин, выступающий от истцов, настаивает, что компании сознательно выпустили небезопасные продукты, нарушая закон, и требует не компенсации, а срочного запретительного распоряжения: заморозить обучение и развертывание следующего поколения моделей до тех пор, пока технология не будет приведена в безопасное состояние. Однако ранее закон Калифорнии о нечестной конкуренции регулировал только мошенничество и ложную рекламу; применение его для квалификации ИИ как «общего помехи» не имеет прецедентов, и первым препятствием становится вопрос, примет ли суд эту правовую рамку. В разных штатах уже активно действуют: Флорида дважды подавала иски против OpenAI в июне и сентябре с требованием прекратить обучение новых моделей; в октябре еще восемь штатов подали совместный иск. OpenAI заявила, что приостановила обучение своих самых мощных моделей в ожидании усиления безопасности.

