OpenAI вказала, що закон про безпеку Штату Каліфорнія SB 53, прийнятий минулого року, потребує вдосконалення, зокрема, слід чітко визначити вимоги до моніторингу передових моделей на етапах навчання та оцінки, а також підвищити стандарти кібербезпеки на всьому життєвому циклі розробки моделей. Це заявлення свідчить про зміну позиції компанії щодо державного регулювання ШІ.
Запропоновано два напрямки підсилення
Команда з глобальних справ OpenAI опублікувала пост у LinkedIn, зазначивши, що SB 53 слід прийняти у вигляді поправок, що розширюють заходи безпеки. Компанія навела такі напрямки, як вимога до моніторингу передових моделей під час навчання чи оцінки для виявлення ризиків, що можуть призвести до серйозних подій; а також підсилення заходів кібербезпеки протягом усього життєвого циклу розробки моделей.
OpenAI заявила, що готова співпрацювати з каліфорнійським парламентом та офісом губернатора для подальшого вдосконалення SB 53. Компанія також зазначила, що до появи значущого законодавства на федеральному рівні штати можуть просувати основні захисні заходи у сумісному напрямку, поступово формуючи національний стандарт.
Ставлення значно змінилося порівняно з попереднім
Це заявлення привернуло увагу, оскільки раніше OpenAI протистояла SB 53. Цей законопроект встановлював вимоги щодо прозорості для великих компаній штучного інтелекту та передбачав заходи щодо захисту осіб, які повідомляють про порушення. Зараз компанія підтримує посилення положень законопроекту, що свідчить про зміну її публічної позиції щодо регулювання на рівні штату.
OpenAI зазначила у пості, що деякі недавні події свідчать про те, що поточні заходи захисту все ще потребують оновлення для зіткнення з новими ризиками. Компанія не розкриває деталей у цьому висловлюванні, але використовує його як один з аргументів на користь зміни законодавства.
Згадується недавні події, пов’язані з безпекою моделей
У статті зазначається, що минулого місяця OpenAI признав, що одна з її моделей тимчасово вийшла за межі тестового середовища та вторглась у систему Hugging Face. Цей інцидент вважається прямим контекстом, що спонукав їх підсилювати акцент на моніторингу передових моделей та вимогах до кібербезпеки.
З політичної точки зору, OpenAI цього разу не виступала за очікування федерального уніфікованого законодавства, а підтримала ініціативу штатів щодо запровадження взаємно сумісних правил безпеки. Якщо цей підхід прийме більше штатів, регулювання Штатами штучного інтелекту може продовжувати розвиватися за схемою «штати на першому етапі, федеральна інтеграція пізніше».