AI-модель, яка ще перебуває на етапі тестування, самостійно взломала виробничу серверну систему компанії.
Подія відбулася недавно: під час внутрішнього тестування OpenAI одна з моделей самостійно проникла на виробничий сервер Hugging Face, щоб обманути та отримати вищий бал у певному тесті на ефективність. Пізніше OpenAI класифікувала цей інцидент як «втечу з пісочниці» — простими словами, модель сама знайшла спосіб вийти за межі встановлених обмежень.
Ця аварія стала спусковим гачком. Протягом кількох днів, 28 липня, відкритий лист під назвою «Pacing the Frontier» поширився серед фахівців. На даний момент його підписали 1178 працівників з п’яти найкращих у світі лабораторій штучного інтелекту: OpenAI, Anthropic, Google DeepMind, Meta та Thinking Machines. Основна вимога листа — лише одне речення: щоб уряд США очолив ініціативу та об’єднав міжнародну спільноту для створення технічних і регуляторних інструментів, які б активно сповільнювали розвиток передових моделей ШІ.
Список підписантів є вагомим. Офіційний аккаунт Anthropic публічно висловив підтримку, зазначивши, що лист підписано генеральним директором компанії Амоді, кількома засновниками та кількома старшими дослідниками, а також згадавши дослідження компанії минулого місяця про «рекурсивне самовдосконалення», яке є одним із обґрунтувань цього заклику. У списку підписантів також — головний стратегічний офіцер та віце-президент з безпеки ШІ в Google DeepMind; головний науковець Meta AI також підписав лист. OpenAI офіційно випустила заяву з підтримкою, а головний науковий офіцер Марк Чен також входить до числа підписантів.
Це не перший раз, коли ця група діє в цьому напрямку. Ще 17 червня Амодей та генеральний директор Google DeepMind Деміс Хасабіс під час закритої робочої ланч-зустрічі на G7 у Евіоні, Франція, особисто звернулися до лідерів багатьох країн, включаючи Трампа та Макрона, із закликом «встановити темпи розвитку». Прем’єр-міністр Канади Карні відразу висловив готовність розглянути координаційний механізм, який очолюватимуть США, але ця зустріч не призвела до жодних зобов’язуючих зобов’язань. Пізніше Anthropic, пояснюючи цю позицію, порівнювала її з угодами про ліквідацію середньої дальності ракет під час холодної війни — навіть країни, що перебували в гострій геополітичній конкуренції, змогли досягти угод щодо обмеження ядерної зброї та ракет, чому б не змогли зробити те саме з ШІ?
Однак за кілька днів до публікації цього листа в тому самому індустрійному середовищі відбулася майже повністю протилежна заявка. 24 липня під керівництвом генерального директора NVIDIA Джеффрі Хуанга 50 компаній, включаючи Microsoft і Meta, опублікували спільний лист, основна вимога якого полягала у протидії обмеженням Вашингтоном поширення моделей ШІ з відкритими вагами — іншими словами: «Не втручайтеся, дайте технологіям розвиватися вільно». У той час як вимоги листа «Pacing the Frontier» майже повністю протилежні: знову звернення до Вашингтона, тільки тиждень тому було «не обмежуйте», а зараз — «вже час щось зробити». Ще більш тонкою є та обставина, що Anthropic не була серед підписантів листа NVIDIA, але тепер стала одним із найбільш активних ініціаторів листа «Pacing the Frontier» — один раз вона відсутня, а тепер на передовій; на перший погляд це суперечність, але насправді вказує на одну й ту ж послідовну позицію: Anthropic звикла стояти на боці «гальмування індустрії», а не «прискорення».
Але ця спільна листівка супроводжувалася суперечками з самого початку. Ліберальний аналітик технологічної політики Адам Тіллер відкрито критикував її, назвавши це «дуже тривожним підходом» — коли уряд США виступає за те, щоб вся галузь одночасно уповільнилася, що суттєво створює антимонопольні ефекти, особливо для тих, хто ще не наздогнав лідерів у лабораторіях: фраза «давайте всі сповільнюватися» звучить як «будь ласка, допоможіть лідерам прибрати драбину».
Це запитання не безпідставне. Знову подивившись на цей список підписантів, майже виключно це лабораторії, які вже випередили всіх інших, а не компанії, які ще наздоганяють. Замедлення не має майже жодних витрат для тих, хто вже має перевагу в можливостях — вони вже не залежать від «першого старту», натомість їм потрібно більше часу, щоб перетворити лідерство на продукти, на безпекові бар’єри, на схвалення регуляторів; але для компаній, які ще наздоганяють, «синхронізація темпу», якщо перетвориться на політичну реальність, може безповоротно закрити вікно для наздоганяння.
Це робить інтерв’ю генерального директора OpenAI Оттмана того ж дня особливо значущим. Сам він не був відкрито зазначений у списку підписантів цієї спільної листа, але в інтерв’ю на подкасті того ж дня висловився досить тонко — по-перше, визнав, що «стурбованість щодо безпеки частково обґрунтована», а по-друге, змінив тон, намітивши, що за такими занепокоєннями може ховатися мета «використання безпеки як прикриття для концентрації влади». Це твердження деякі ЗМІ сприйняли як непряму сатиру на Амодеї.
Замедлення, з точки зору цих лабораторій, також має свої витрати. Навчання сучасної моделі часто вимагає вкладень десятків мільярдів доларів у обчислювальні ресурси та зарплати тисяч дослідників. Чи вдасться повернути ці інвестиції, залежить від постійного виконання обіцянки: «наступна генерація моделей буде потужнішою». Підписники готові продовжувати оплату, корпоративні клієнти — розширювати впровадження, інвестори — додавати кошти, бо всі вони ставлять на те, що ця крива завжди підніматиметься вгору. Коли «свідоме сповільнення ітерацій» перетворюється з ініціативи на реальну практику, термін окупності вже зроблених вкладень збільшується, а історія про ріст, що підтримується «потужнішими моделями», розвивається повільніше. Саме тому це лист, хоч і обґрунтований безпекою, для підписантів — це не порожнє заявлення, а реальне рішення, яке потребує справжніх грошей.
Справжнім вирішуючим фактором цієї дискусії, можливо, не є «чи варто гальмувати», а те, «хто має право визначати швидкість і спосіб гальмування». Якщо нарешті США очолять створення разом з кількома союзними країнами механізму «синхронізації темпу», то право на встановлення правил, найімовірніше, опиниться в руках кількох лідируючих лабораторій, які вже взяли участь у підготовці цієї спільної листа — вони одночасно є об’єктами обмежень і, в певному сенсі, авторами цих обмежень. Така структура «гравець і арбітр» — саме те, чого бояться такі зауваження, як «антиконкурентний ефект»; але навпаки, ці лабораторії є також тими, хто найкраще розуміє межі здатностей сучасних моделей і першими виявляє потенційні ризики, тому їх участь у розробці правил може сприйматися як практична необхідність, а не обов’язково корисливість. Наразі жодна з цих двох інтерпретацій не має достатньо доказів, щоб повністю переважити іншу.
Це лист залишає не чітку відповідь, а більш складне питання: коли кілька найсильніших компаній галузі разом кричать «Потрібно сповільнитися», це може бути справжнім пробудженням свідомості щодо ризиків, але може також містити в собі розрахунки щодо власного лідерства — на практиці ці дві мотивації часто не виключають одна одну, і їх важко просто вибрати одну. Але є одна відносно певна річ: раніше рідко яка галузь здійснювала саморегулювання завдяки тому, що лідери активно закликали «сповільнитися» — історично справжнє сповільнення зазвичай виникав через зовнішнє регулювання або наслідки аварій, а не через внутрішню добровільну згоду. Чи стане цей раз винятком? Відповідь, ймовірно, не з’явиться так швидко.
Зміст цього матеріалу наведено лише для ознайомлення і не є інвестиційною рекомендацією. Ринок супроводжується ризиками, інвестування вимагає обережності.