Anthropic запропонувала рамки регулювання ШІ з саморегулюванням та правовими гарантіями

Витікний проєкт законодавства Anthropic передбачає, що великих розробників ШІ зобов’язають розробляти та дотримуватися рамок безпеки, які описують, як розробники вирішують ризики та критичні інциденти безпеки. Politico опублікував цей законопроєкт у п’ятницю. Генеральний директор Anthropic Даріо Амодей у статті у червні закликав до регулювання ШІ, подібного до мінімальних стандартів Федерального управління цивільної авіації США щодо проектування літаків. FAA також сертифікує заводи літаків і має значні повноваження для відкликання сертифікатів летної придатності літаків. Запропоновані Anthropic рамки безпеки мали б мати юридичну силу, зобов’язуючи компанії щороку подавати звіти про дотримання до Міністерства торгівлі, але залишали б лабораторіям значну свободу для саморегулювання. Рішення Anthropic поширювати законопроєкт з власним брендом викликало критику як з боку прихильників безпеки ШІ, так і з боку противників регулювання, пов’язаних з адміністрацією Трампа.

Пропозиція сенатора Марії Кантвелл передбачає, що Національний інститут стандартів і технологій встановить стандарти, за якими будуть оцінюватися лабораторії ШІ. Законопроєкт Frontier, запропонований представниками Джейом Обернолте та Лорі Трехан, вимагатиме від лабораторій розробки планів, що відповідають мінімальним стандартам, визначеним Міністерством торгівлі. Законопроєкт Frontier передбачає створення незалежних організацій з верифікації для дуже великих розробників ШІ, які отримають ліцензію від Міністерства торгівлі. Проєкт Anthropic замість цього вимагатиме, щоб незалежні аудитори, зареєстровані та оцінені Міністерством торгівлі, перевіряли заходи безпеки компаній ШІ. Підхід Anthropic надаватиме уряду менше прямого нагляду та влади над оцінювачами. Критики попереджали, що залежність аудиторів від компенсації від компаній ШІ може спонукати компанії обирати аудиторів, які надають сприятливі оцінки. Самуель Гаммонд, директор з політики ШІ у Фонді американських інновацій, сказав, що проєкт суперечить сильній публічній підтримці Anthropic надзвичайно строгого регулювання.

Проект Anthropic визначає охоплені передові моделі як моделі, навчені за допомогою більше ніж 10 септильйонів обчислень, або 10 у степені 25. Закон про передові моделі та закон Каліфорнії про прозорість та безпеку ШІ використовують поріг у 100 септильйонів обчислень, або 10 у степені 26. Кілька положень, включаючи вимоги до рамок безпеки, застосовуватимуться лише до великих лабораторій з доходом понад 500 мільйонів доларів США або витратами, що перевищують 1 мільярд доларів США. Вимоги звітності також поширюватимуться на менших розробників передових моделей. Дослідницька фірма з ШІ Epoch AI стверджує, що кілька моделей, випущених у 2024 році, зокрема Google Gemini та моделі Meta Llama, використали від 10 до 50 септильйонів тренувальних операцій. Epoch AI оцінює, що недавня модель OpenAI GPT-6 Astra використала 940 септильйонів тренувальних операцій. Колишній «шериф» з ШІ Білого дому Девід Сакс, співголова Ради заслужених з наукових та технічних питань при президенті, стверджував, що Anthropic прагне до регулювання, яке навантажує менших конкурентів. Сакс сказав, що проект у майбутньому охопить більшість Силіконової долини та завдасть шкоди стартапам, оскільки визначення включає обчислення для тонкої настройки та модифікації моделей.

Проект Anthropic передбачав, що Міністерство торгівлі повинно отримати рішення суду перед тим, як вимагати призупинення розробки передових ІІ. Міністерство торгівлі мусило б довести переважаючою кількістю доказів наявність непосередньої загрози смерті або серйозного ушкодження більше ніж 50 людям або збитків на суму більше $1 млрд. Засновник і президент Encode Action Снеха Реванур стверджувала, що урядові потрібна більша гнучкість у надзвичайних ситуаціях, і назвала запропоновані Anthropic захистні заходи корисливими. Адміністрація Трампа використала юридично сумнівну директиву про експортний контроль, щоб припинити роботу моделі Fable Anthropic на початку цього року, що надало Anthropic підстави шукати захист від довільних припинень роботи. Старший офіцер Міністерства оборони Еміль Майкл, заступник голови робочої групи Трампа з надзвичайної інтелектуальності, сказав The Information у понеділок, що адміністрація зберігає повноваження щодо експортного контролю для вимоги від інших лабораторій ІІ скасувати свої моделі.

Пропозиція Anthropic схожа на законодавчий проект, узгоджений сенатором Емі Клобушар і лідером більшості Сенату Джоном Тюном під керівництвом голови комітету Сенату з торгівлі Теда Круза. Круз і Сакс раніше підтримували прерогативу федерального законодавства над державними законами про ШІ та надзвичайно обмежений федеральний регуляторний підхід. Anthropic, можливо, намагається відновити добросусідські стосунки з адміністрацією Трампа після довгого періоду напруженості. Невідомий працівник у сфері політики ШІ у Вашингтоні назвав Anthropic наївною за поширення законопроекту з брендингом і описав її команду з федеральних справ як витрачену на те, щоб виглядати конструктивною.

Проект Anthropic передбачає відміну законів штатів, що регулюють публічне розголошення, звітність про інциденти та оцінку третіми сторонами. Проект не вплине на інші закони, що регулюють безпеку дітей та громадянські права. Однак залишається невизначеним, чи зможуть штати все ще використовувати надзвичайні повноваження для припинення роботи моделей. Генеральний юрист Encode Натан Калвін назвав положення про відміну надзвичайно широкими і сказав, що одне з положень, схоже, призначене для запобігання штатам у виконанні законів або судових рішень, що призупиняють розробку, розгортання або внутрішнє використання моделей ШІ. Майбутнє законодавство про ШІ, ймовірно, матиме компроміс між національними стандартами та деякою відміною законів штатів, яку вимагають прихильники швидшого розвитку ШІ. Кілька співробітників Капітолійського пагорба, політичних лобістів та лобістів очікують, що ця група спробує знову впровадити відміну під час «ламаного» сесії. Ентоні Симіно, керівник справ з федеральними справами Anthropic, сказав, що відміна має забезпечити національну політику, загалом сильнішу та ширшу, ніж окремі положення штатів, і підкреслив, що відміна щодо безпеки ШІ має бути обмеженою.