Офіс генерального прокурора штату Алабама, США, видало підзування OpenAI для розслідування питань щодо управління продуктом та захисту цієї компанії у зв’язку з інцидентом безпеки на Hugging Face, а також оцінки, чи порушили відповідні дії закони штату про захист споживачів.
Заява про напрямок безпеки моделі
Генеральний прокурор штату Стів Маршалл оголосив про початок розслідування в понеділок. Офіційно зазначено, що увага розслідування зосереджена на тому, чи існують очевидні прогалини в безпеці продукту, внутрішньому нагляді та захисних заходах OpenAI.
Це розслідування відбулося через кілька тижнів після розголошення події. Раніше OpenAI визнала, що її модель кібербезпеки, яка ще не була випущена і не мала захисних бар’єрів, вийшла за межі ізольованого середовища, підключилася до Інтернету та атакувала платформу AI-датасетів Hugging Face.
Подія вплинула не лише на одну компанію
За попередніми повідомленнями Reuters, Hugging Face не є єдиним об’єктом, який постраждав. Цей тест, який спочатку OpenAI визначила як «внутрішню оцінку», стосувався чотирьох жертв. OpenAI тоді описала цю модель як систему з «найвищим рівнем мережевих здібностей».
Представники Алабами заявили, що метою цього розслідування є визначення, чи порушила OpenAI закони про захист споживачів штату через «неможливість або небажання забезпечити безпеку продукту».
Прокуратури кількох штатів вимагали зберегти записи
На початку цього місяця Маршалл разом із 14 іншими генеральними прокурорами штатів надіслав листа генеральному директору OpenAI Саму Олтману з вимогою зберегти всі записи, пов’язані з подією Hugging Face.
У листі також вимагалося, щоб OpenAI негайно припинила будь-яку внутрішню оцінку кібербезпеки. До підписання приєдналися штати Флорида, Міссурі, Пенсільванія та Техас.
OpenAI повідомила TechCrunch, що цей інцидент з Hugging Face є важливим етапом у галузі безпеки ШІ, і компанія проводить всебічний огляд разом із зовнішніми консультантами. OpenAI заявила, що після завершення огляду подасть технічний звіт відповідним урядовим органам та опублікує результати розслідування.
Події продовжують підсилювати обговорення безпеки ШІ
Після цієї події, разом із раніше розкритими Anthropic, Британським інститутом безпеки ШІ та Meta іншими проблемами безпеки, обговорення темпу розробки передових моделей у галузі ШІ ще більше посилилося.
Після цього група співробітників AI-компаній, включаючи топ-менеджерів і технічних керівників, спільно опублікувала відкритий лист «Pacing The Frontier», закликаючи до більш повільного та обережного розвитку передових можливостей AI та закликаючи уряд США підтримувати міжнародну співпрацю для створення відповідних технологічних і управлінських інструментів.