Anthropic опублікувала комплекс політичних ініціатив для передових моделей ШІ. Компанія стверджує, що поточні правила прозорості вже не встигають за темпами зростання здатностей моделей, і урядам потрібні чіткі повноваження для втручання до того, як високоризиковани системи потраплять на ринок.
Об’єкти регулювання визначаються за потужністю та доходом
Ця схема поділена на дві частини: одна зосереджена на технічних та регуляторних вимогах найпотужніших моделей, а інша — на проблемах економічного розподілу в умовах автоматизації. За вже розкритою інформацією, перша частина явно більш повна.
Anthropic звужує регуляторний охоплення до кількох провідних розробників, а не охоплює всю галузь. Компанія пропонує включити до рамок моделі, що тренуються на більше ніж 10²⁵ операціях з плаваючою комою, а також підприємства з річними дохідами від штучного інтелекту понад 500 мільйонів доларів США або витратами на дослідження та розробки в галузі ШІ понад 1 мільярд доларів США.
Цей дизайн спрямований на зосередження уваги на моделях із найбільшою концентрацією ресурсів і найвищою потужністю, уникнувши одночасного включення малих і середніх розробників та дослідницьких установ до однаково суворої регуляції.
Вважається, що уряд може запобігти виведенню високоризикованих активів
Компанія зазначила, що найважливішою зміною є надання уряду законної влади зупиняти або припиняти розгортання моделей високого ризику. На даний момент у США ще не існує повноцінного механізму, який дозволив би суттєво блокувати моделі до їхнього запуску для загальної публіки.
Щодо конкретних вимог, розробники передових моделей повинні завершити тестування до публікації та оприлюднити резюме тестування, безпечний фреймворк та system card, які пояснюють поведінку моделі та методи контролю ризиків. Компанії також повинні регулярно подавати звіти про ризики, розкриваючи загальний стан ризиків та прогрес у сфері безпеки.
Anthropic також закликає ввести незалежні оціночні органи для перевірки тестів, проведених компаніями самостійно, та окремо публікувати висновки щодо ризиків моделей. Це дозволить регуляторам та громадськості отримувати інформацію не лише залежно від заяв компаній.
Покарання та вимоги безпеки посилюються одночасно
Щодо встановлення покарань, Anthropic пропонує зв’язати цивільні штрафи з глобальним річним доходом компанії, а не встановлювати фіксовані штрафи. Компанія вважає, що лише такий підхід забезпечить реальне обмеження для великих AI-підприємств. Для повторних порушень розмір штрафу слід ще збільшити.
Крім тестування та розкриття, схема вимагає від компаній створення потужнішої системи безпеки для захисту ваг моделей та тренувальних систем від зовнішніх атак та внутрішнього зловживання. Компанії можуть публічно описати загальну структуру плану безпеки, а більш детальну інформацію надавати за вимогою державних органів.
Anthropic також запропонувала, щоб уряд і галузь спільно розробили стандарти для незалежних оцінювачів і забезпечили їм достатнє фінансування та необхідний доступ. Оскільки передові моделі зазвичай є найбільш чутливими активами компаній, питання того, хто буде оцінювати та як отримати доступ, стане одним із ключових викликів при реалізації.
Названо чотири основні ризики
Anthropic у документі визначає чотири категорії ключових ризиків: біологічні ризики, кібербезпека, втрата контролю та ризик самоприскорення розробки ШІ. Компанія вважає, що ці ризики не є ізольованими й можуть взаємно посилювати один одного.
Наприклад, моделі, здатні до масштабного виявлення вразливостей програмного забезпечення, можуть безпосередньо впливати на критичну інфраструктуру, таку як лікарні та енергетичні мережі; а в умовах недостатнього обмеження такі здібності можуть посилювати біологічні ризики.
Щодо супутніх заходів, Anthropic рекомендує посилити захист інтернету та критичної інфраструктури, сприяти заміні застарілих систем на ключових службах та створити спеціалізований урядовий орган для постійного моніторингу змін у кіберможливостях передових ШІ. Щодо ризиків втрати контролю та автоматизованого розроблення, компанія визнає, що відповідні інструменти управління ще не досконалі, і необхідно продовжувати вдосконалювати здатність виявляти, ізольовувати та вимикати небезпечні системи.
Додаткова інформація: Anthropic у документі зазначила, що існуючі правила прозорості в Каліфорнії, Нью-Йорку та інших місцях мають певну ефективність, але одного лише публічного розкриття інформації недостатньо для покриття ризиків, пов’язаних з швидкими ітераціями передових моделей.