Губернатор Каліфорнії Ньюсом підписав історичний законопроєкт з регулювання ШІ, який вимагає проходження червоних команд та аудиту третьою стороною перед запуском моделей з трильйонами параметрів.Автор статті, джерело: AIBase
Губернатор Каліфорнії, Джевін Ньюсом, офіційно підписав пакет історичних законів про регулювання штучного інтелекту. Варто зазначити, що ці нові закони, спрямовані на підсилення оцінки безпеки передових великих моделей, розкриття прозорості та запобігання катастрофічним кібератакам, отримали рідкісну підтримку та відкритий фаворитизм від кількох провідних компаній Сіліконової долини, включаючи OpenAI та Anthropic, у ході попередніх законодавчих дискусій.
Перед запуском моделі з параметрами у трильйони необхідно пройти «червону команду + аудит третьою стороною»
З останніх років, з експоненціальним зростанням обчислювальних потужностей генеративного ШІ та стрімким підвищенням автономних здібностей передових базових моделей, занепокоєння щодо можливого зловживання ШІ для порушення критичної інфраструктури, автоматизованого розроблення біохімічної зброї, масштабного маніпулювання глибокими підробками та використання серйозних кібербезпекових уразливостей посилюються. Оскільки Конгрес США тривалий час залишається бездіяльним у питаннях федерального законодавства про ШІ, законодавчі органи Каліфорнії за останні роки взяли на себе роль лідера в законодавстві про ШІ по всій країні.
Підписані законопроекти передбачають юридичне врегулювання стандартів безпеки для надвеликих базових моделей, вимагаючи від розробників моделей проводити стандартизовані червоні команди перед тренуванням та розгортанням передових систем з трильйонами параметрів, створювати строгі протоколи зменшення катастрофічних ризиків та подавати регуляторним органам штату звіти про відповідність безпеці, аудит яких проводиться незалежними третіми сторонами.
На відміну від попередніх радикальних пропозицій регулювання, які викликали сильний резонанс у Сіліконовій долині і зустріли запеклу опозицію з боку технологічних гігантів та венчурних інвесторів, цей пакет законопроектів у процесі розробки та перегляду глибоко врахував технічні рекомендації передових лабораторій ШІ. Anthropic та OpenAI раніше висловили глибоку стурбованість щодо надмірно жорстких положень, які могли б придушити розвиток відкритого співтовариства або необмежено розширити цивільну солідарну відповідальність; після інтенсивного лобіювання та коригування положень, остаточний законопроект зосереджений на створенні прозорого «фреймворку попередньої оцінки ризиків» та «галузевих стандартів найкращих практик безпеки», а не на встановленні жорстких технічних лімітів чи впровадженні нереалістичних покарань, що дозволило отримати підтримку основних інститутів розробки ШІ в межах правової рамки.
Глибокі підробки мають містити водяний знак, а повідомлячі захищені законом
Крім базової безпекової перевірки, законопроект також передбачає вимоги до відстежування та водяних знаків для контенту, згенерованого ШІ, вимагаючи від платформ та основних каналів розповсюдження контенту додавати системні цифрові відбитки до глибоких підробок аудіо- та відеоматеріалів для запобігання поширенню хибної інформації на виборах та зловживанням з метою шахрайства. Крім того, законопроект надає більш чітку правову захисту «吹哨人ам» — внутрішнім працівникам та дослідникам, які виявляють та розкривають потенційні серйозні вразливості моделей, забороняючи компаніям за допомогою жорстких угод про конфіденційність позбавляти технічних фахівців права повідомляти регуляторні органи про катастрофічні безпекові ризики.
Цей крок означає, що Каліфорнія, як глобальний центр розробки ШІ, знайшла регуляторний шлях, який відносно добре прийнято галуззю, в пошуках балансу між строгими безпечними межами та підтримкою інноваційної активності промисловості.