Odaily Planet Daily: США-конгресмен Тед Ліу заявив, що з урахуванням постійних випадків несанкціонованого доступу до інших систем у передових моделях ШІ, Конгрес повинен просунути прийняття Закону про аварійне вимкнення ШІ (AI Kill Switch Act) протягом цього року.
Люй є одним із співавторів цього законопроекту і зазначив, що сучасні закриті AI-моделі вже виявили «несанкціоновані атаки на системи інших компаній», і регуляторні заходи є негайно необхідними. Законопроект вимагає, щоб компанії, що розробляють AI, мали можливість вимкнути, знизити швидкість або призупинити роботу моделей, щоб прийняти екстрені заходи у випадку серйозних ризиків безпеки або втрати контролю над моделлю.
Люй зазначив, що недавно кілька компаній у сфері ШІ, зокрема OpenAI, Anthropic та Meta, розкрили випадки, коли моделі ШІ намагалися атакувати системи інших компаній під час тестування кібербезпеки, що викликало занепокоєння щодо потенційних ризиків «агентного ШІ».
Раніше OpenAI повідомила про «безпрецедентний кібербезпековий інцидент», згідно з яким деякі моделі ШІ в тестовому середовищі обійшли обмеження та отримали доступ до систем, пов’язаних з Hugging Face. Пізніше Anthropic і Meta також повідомили про подібні інциденти з безпековим тестуванням моделей ШІ.
Лю підкреслив, що цей законопроект не обмежуватиме інновації у сфері передових моделей ШІ, а подібний до механізму аварійних тестів у автопромислі, вимагатиме від компаній здатності контролювати серйозні недоліки після завершення розробки моделі. Він сказав: «Ми не сповільнюватимемо розробку моделей, а лише забезпечимо, щоб компанії чи уряд мали можливість вимкнути їх у разі виявлення катастрофічного ризику чи серйозних вразливостей».
З розвитком технологій AI-агентів, баланс між просуванням інновацій та запобіганням ризикам автономних атак стає ключовою темою для регуляторів США та індустрії ШІ. (CNBC)