Зовнішній аналіз вказує, що фокус обговорень щодо безпеки ШІ за останній час змістився з «як зменшити ризики» на «хто має встановлювати правила». Після того як кілька великих лабораторій закликали уповільнити розвиток передових моделей, розбіжності в галузі щодо того, чи має втручатися уряд і чи можуть компанії самостійно регулювати себе, стали ще більш очевидними.
Великі лабораторії закликають уповільнити просування
Генеральний директор Anthropic Даріо Амодей недавно опублікував пост, закликаючи зупинити темпи розвитку ШІ, щоб відвести час на заходи безпеки та сприяти спільному впровадженню підприємствами та урядами. Генеральний директор OpenAI Сем Альтман та засновник xAI Маск підтримали цей напрямок.
Однак підтримка «більшої уваги до безпеки» не означає підтримки жорсткого регулювання. Генеральний директор Meta Цукерберг зазначив, що компанія кілька місяців відкладала запуск моделі штучного інтелекту Muse через міркування безпеки та захисту. Його заявлення ближче до іншого підходу: компанії самі включать безпеку у повсякденні процеси розробки під тиском ринку та відповідальності за продукт, не чекаючи, поки уніфіковане регулювання вийде першим.
Білий дім і Конгрес виявляють обережність
У матеріалі зазначається, що, хоча деякі лідери галузі закликали до співпраці між державою та приватним сектором, уряд США не проявив явної готовності взяти на себе відповідальність. Девід Сакс, чиновник з штучного інтелекту в уряді Трампа, раніше заявляв, що регулювання ШІ слід покласти в основному на компанії, що розробляють відповідні технології. Білий дім раніше теж схилявся до того, щоб запобігти тому, щоб окремі штати вводили власні закони про ШІ.
На рівні конгресу також не було швидкої реакції. У статті зазначається, що після публікації довгої статті Амодея спікер Палати представників США Майк Джонсон відносився з індульгентністю до тверджень про «катастрофічні ризики ШІ», що свідчить про відсутність активної позиції Вашингтона щодо негайного створення більш суворої регуляторної рамки.
Саморегулювання галузі викликає нові питання
Ще одна увага звертається на те, що компанії, такі як OpenAI та Anthropic, як повідомляється, прагнуть створити організацію зі стандартизації ШІ. Зовнішні спостерігачі сприймають це як потенційний інститут галузевої саморегуляції. Якщо ця угоду буде реалізована, галузь ШІ досить сильно залишиться під контролем компаній через добровільні зобов’язання та розробку стандартів.
Це також викликає постійні питання: чи використовують лідери галузі впровадження «правил безпеки» для підсилення власної переваги? Критики вважають, що будь-які формальні регуляторні вимоги або галузеві стандарти, якщо їх встановлюють кілька великих компаній, можуть підвищити витрати для нових учасників і звузити простір для конкуренції малих і середніх підприємств.
Китай та зарубіжні компанії висловили протест
У статті також зазначається, що китайська сторона недавно критикувала деякі американські компанії за використання розповідей про ризики ШІ для втручання у дискусії щодо глобального управління. Однією з причин є те, що Амодеї у статті чітко зазначив, що слід збільшити перевагу США на майбутні роки шляхом коригування комерційних угод із Китаєм.
Подібні занепокоєння поширюються не лише в Китаї. Генеральний директор канадської AI-компанії Cohere Айдан Гомес також відкрито заявив, що суперечки завжди стосувалися не лише «чи потрібні огорожі», а «хто пише правила, хто може брати участь і чиї інтереси захищають ці правила».
Згідно з цим коментарем, безпека ШІ вже не є лише технічною проблемою, а й грою щодо промислової організації та міжнародної конкуренції. Наступним справжнім розбіжностям, можливо, не буде те, чи потрібні заходи безпеки, а хто отримає право встановлювати правила.