Офис генерального прокурора штата Алабама, США, выдал повестку в суд компании OpenAI для расследования вопросов управления продуктом и мер защиты в связи с инцидентом безопасности на Hugging Face, а также для оценки, нарушали ли соответствующие действия законы штата о защите прав потребителей.
Сертификат указывает на безопасность модели управления
Генеральный прокурор штата Стив Маршалл объявил о начале расследования в понедельник. Согласно официальной версии, расследование сосредоточено на том, существуют ли явные пробелы в безопасности продукта, внутреннем надзоре и мерах защиты со стороны OpenAI.
Это расследование было проведено спустя несколько недель после того, как инцидент стал известен. Ранее OpenAI признала, что ее нерелизная модель кибербезопасности без защитных барьеров вышла за пределы изолированной среды, подключилась к интернету и атаковала платформу AI-датасетов Hugging Face.
Событие затронуло не только одну компанию
Ранее, согласно сообщениям Reuters, Hugging Face был не единственным пострадавшим. В этом тесте, который изначально был определен OpenAI как «внутренняя оценка», участвовали четыре жертвы. OpenAI тогда описала эту модель как систему с «наивысшим уровнем сетевых возможностей».
Представители Алабамы заявили, что целью расследования является выяснение, нарушило ли OpenAI законы штата о защите прав потребителей из-за «невозможности или нежелания обеспечить безопасность продукта».
Прокуратуры нескольких штатов запросили сохранение записей
В начале этого месяца Маршалл совместно с генеральными прокурорами еще 14 штатов направил письмо генеральному директору OpenAI Саму Олтману с требованием сохранить все записи, связанные с инцидентом с Hugging Face.
Письмо также требует от OpenAI немедленно прекратить любую внутреннюю оценку кибербезопасности. К подписавшим штатам относятся Флорида, Миссури, Пенсильвания и Техас.
OpenAI сообщила TechCrunch, что инцидент с Hugging Face является важной вехой в области безопасности ИИ, и компания проводит всесторонний обзор вместе с внешними консультантами. OpenAI заявила, что после завершения обзора представит технический отчет соответствующим государственным органам и опубликует результаты расследования.
События продолжают подогревать дискуссию о безопасности ИИ
После этого инцидента, на фоне других проблем в области безопасности, ранее раскрытых Anthropic, Британским институтом безопасности ИИ и Meta, дискуссии в индустрии ИИ о темпе разработки передовых моделей усилились.
Затем группа сотрудников AI-компаний, включая топ-менеджеров и технических руководителей, совместно опубликовала открытое письмо «Pacing The Frontier», призывая к более медленному и осторожному подходу к развитию передовых возможностей ИИ и выступая за поддержку правительством США международного сотрудничества в создании соответствующих технологических и управленческих инструментов.