Генеральний директор Anthropic запропонував рамки політики штучного інтелекту на тлі швидкого технологічного росту

Недавно генеральний директор одного з провідних AI-гігантів, Anthropic, Даріо Амодей, опублікував статтю на десятки тисяч слів, яка викликала масове обговорення в мережі: «Політика в епоху штучного інтелекту». У статті він докладно описав свої спостереження щодо п’яти політичних сфер і запропонував системні рекомендації від регулювання до геополітики.

(Посилання на оригінал: https://darioamodei.com/post/policy-on-the-ai-exponential, повний текст українською мовою наведено нижче.)

Слід визнати, що в середовищі Сіліконової долини, де всі лише балакають про «зміну світу» і тільки малюють великі обіцянки, Даріо — рідкісна рідкість.

Він був надзвичайно відкритим, навіть трохи «пожертвував своїми», знявши фальшиву оболонку, з якою технологічне середовище приховувало справжнє становище речей.

Інсайдери часто приписують занепокоєння громадськості щодо ШІ «поганій PR-стратегії», але Даріо без жодних обходів заперечує: люди хвилюються, тому що ризики існують насправді, і це зовсім не питання PR.

Він також безпосередньо визнав ту правду, якої величезні технологічні компанії намагаються уникати: ШІ дуже ймовірно викличе серйозну та тривалу хвилю безробіття, застрягнувши економіку в екстремальному стані «суперзростання та супернерівності».

Але якщо ми продовжимо логічний аналіз лікування, запропонованого цим відомим «свідком» індустрії, то виявимо глибокий структурний парадокс:

Цей відповідальний топ-менеджер, закликаючи накласти обмеження на галузь, об’єктивно прагне сприяти безпрецедентній зміні влади. Еліти Сіліконової долини переписують закони людського суспільства.

Стикаючись зі швидкою еволюцією ШІ, Даріо хвилюється і закликає уряди швидко регулювати ШІ, як літаки та ліки.

Наприклад, створити механізм, подібний до Федерального управління цивільної авіації (FAA), який вимагатиме, щоб передові моделі з достатньою обчислювальною потужністю проходили обов’язкове тестування безпеки від сторонніх організацій, інакше їх не дозволять публікувати.

Вихідна точка, безумовно, полягає в безпеці людства.

Але з точки зору об’єктивних закономірностей бізнес-еволюції, авіаційна галузь є висококонцентрованою олігополією саме через надзвичайно високі витрати на відповідність вимогам.

Коли індустрія ШІ справді «фаа-ізуватиметься», високі витрати на перевірку, регулярні червоні команди та тестування на проникнення перетворяться на непробивну «стіну поглибленого стогону».

Регулювання іноді є оборонною лінією лідерів. Стартапи та відкриті спільноти просто не можуть собі це дозволити.

Остаточний результат: величезні корпорації, виходячи з «великої любові» до безпеки всього людства, об’єктивно використали державну владу для законного прибирання та закріпили свою олігополістичну позицію у законодавстві.

У сфері фармацевтики та геополітики існує така ж тонка логіка.

Даріо закликає традиційні органи, такі як FDA, послабити регулювання схвалення AI-розробки ліків і приймати AI-симуляції замість тривалих клінічних випробувань. Мета чудова, але це, безумовно, прибирає перешкоди для AI-гігантів, які мають найпотужніші обчислювальні ресурси, щоб здійснити дії нижчого рівня проти трильйонного фармацевтичного ринку.

В той же час він запропонував створення «Альянсу штучного інтелекту демократичних країн», який би внутрішньо ділився чіпами, а ззовні строго захищався.

Хто забезпечує технології, якщо цей альянс буде створений? Хто виключений? Хто є ворогом? Хто отримує прибуток у цьому процесі?

Щоб зберегти технологічний розрив, технологічні гіганти не лише є постачальниками технологій, а й логічно перетворюються на розробників нових правил гри в епоху, а також можуть перетворитися на новий «цифровий військово-промисловий комплекс», що отримує величезні оборонні бюджети.

Якщо ми розгорнемо історичні нитки, все це насправді було передбачувано.

У історії, коли компанія ставала достатньо великою, вона часто «захоплювала державу або набувала квазідержавних рис». Даріо сам у тексті згадує дуже точну аналогію: Британську Ост-Індську компанію.

Ост-Індійська компанія спочатку була групою торговців спеціями, але для захисту морських шляхів та управління величезними міжнародними інтересами вони поступово почали вербувати армії, створювати суди та випускати гроші, ставши в кінцевому підсумку «квазідержавою», що правила підконтинентом.

Сьогоднішні гіганти Кремнієвої долини йдуть точно тим самим шляхом.

Тоді засобом були броненосці та гармати, а сьогодні — обчислювальна потужність.

Даріо спрогнозував захоплююче майбутнє: якщо ШІ продовжуватиме експоненційну еволюцію, він перетвориться на «країну геніїв у центрах обробки даних»: ШІ буде збирати геніїв у всіх галузях, і мати потужний ШІ — це як мати країну геніїв, які служать вам. Тож коли армія з потужним ШІ зустрічається з армією без ШІ, різниця така сама, як між морською піхотою Другої світової війни та середньовічними важкоозброєними лицарями.

Коли технологічні гіганти мають у своїх руках супертехнології, здатні викликати фінансовий крах, створювати біологічну зброю або навіть визначати глобальну геополітичну ситуацію, традиційні державні інститути починають втрачати здатність ефективно їх обмежувати.

Великані вже намагаються самостійно встановлювати стандарти безпеки, тестувати моделі та навіть розробляти міжнародні альянси.

Це не тому, що вони є злочинною групою амбітників, а тому, що після того, як технологія досягла такого масштабу, вакуум влади та складність людської природи змусили їх природним чином піти схожим шляхом.

У епоху, коли обчислювальна потужність вирішує все, сила окремої особи здається нескінченно стиснутою.

Даріо безжально розкрив правду: ШІ замінює не лише фізичну працю, а й самі когнітивні здібності, якими людство пишається.

Коли наша логіка та планування, витрачені на вдосконалення в професійному середовищі, здаються дитячими перед «країною, що зібрала всіх геніїв» — штучним інтелектом, як нам слід себе вести?

Великі гравці пропонують такі макроекономічні заходи, як універсальний базовий дохід (UBI): держава платить вам гроші, навіть якщо ви не працюєте.

Але хліб з маслом зберігся — хто заповнить ту велику діру в серці?

Можливо, як і метафора Даріо у тексті: навіть якщо машини вже давно перевершили людей у шахах та го, люди все ще присвячують життя шахівниці і залишаються поважними.

Машини обчислюють холодні «оптимальні рішення», тоді як люди прагнуть до живого «досвіду».

Ті риси, які не можна стандартизувати, стануть найбільш дефіцитним ресурсом майбутнього.

У побічній сюжетній лінії «Володаря перснів» двоє гоблінів намагаються розбудити Трімбара — мудрого, але дуже повільного свідомого дерева, щоб захистити його ліс від армії, яка знищує ліс. Проблема полягає в тому, що швидкість дій Трімбара кардинально відрізняється від швидкості гоблінів. Йому потрібен цілий день, щоб просто привітатися з іншим деревом, тому неможливо змусити його та його супутників діяти достатньо швидко.

Перетин штучного інтелекту (ШІ) із нашою політичною системою відчувається як гобліни та дерево-хмар. ШІ розвивається з блискавичною швидкістю (сленг/ідіома, що означає надзвичайно високу швидкість) — за чотири роки моделі ШІ пройшли шлях від майже неможливості написати навіть один зрозумілий рядок коду до того, що зараз вони пишуть більшість коду в головних компаніях ШІ. Подібний прогрес спостерігається в біології, фізиці, математиці, фінансах, праві, перекладах та багатьох інших галузях. Закони масштабування ШІ, які передбачають, що загальна когнітивна здатність зростатиме експоненційно зі збільшенням обчислювальних потужностей, зараз підтверджуються понад десятилітніми емпіричними даними. Якщо ці закони масштабування продовжаться ще лише на один-два роки, ми, ймовірно, отримаємо те, що я називаю «потужним ШІ» або «країною геніїв у центрі обробки даних».

Навпаки, політика — зокрема законодавство — розвивається дуже повільно. Зазвичай це має достатні підстави: уряд володіє надзвичайно великою владою, і зазвичай найкраще не використовувати її поспішно. Але таке невідповідність у часі все ще дуже болісне: за ті роки, які можуть знадобитися конгресу для дій, ШІ може перетворитися з цікавої іграшки на справжнє королівство геніїв.

Протягом останніх кількох років, з моменту, коли ШІ став ключовою бізнес-технологією, ми, ті, хто прагне поводитися з ним відповідально, опинилися в складній ситуації. Ми чітко бачимо напрямок цього експоненційного зростання: ми серйозно підозрюємо, що через кілька років ШІ стане однією з рідкісних технологій, які фундаментально перетворять всю політичну парадигму — подібно до того, як ядерна зброя змінила геополітику, а промислова революція корінним чином перетворила кожен економічний і соціальний питання. Але для тих, хто дивиться лише на те, що ШІ може робити зараз, він виглядає як дуже звичайна технологія — можливо, подібна до останнього споживчого додатка чи криптовалюти. Дуже важко переконати більшість політиків і компаній у тому, що крім ліберального підходу (laissez faire) щось має сенс. Чесно кажучи, насправді радикальні наслідки ШІ ще не проявилися, і ми точно не знаємо, якого вигляду вони можуть набути, що робить навіть бажання діяти складним для реалізації через неможливість розробити правильну політику.

Ураховуючи обмеження, накладені цією ситуацією, багато захисників безпеки (включаючи Anthropic) до цього часу зосереджувалися на просуванні політичних заходів, які зберігають вибір, готують ґрунт для швидкої реакції в майбутньому (сленг/ідіома, означає підготувати, закласти основу) або дозволяють світу краще розуміти те, що наближається (сленг/ідіома, означає те, що скоро відбудеться або з’явиться) — таких як законодавство про прозорість, експортний контроль над чіпами та збір даних про вплив ШІ на ринок праці. Цього недостатньо, але здається, що це все, що можна зробити зараз.

Проте протягом останніх кількох місяців докази неймовірної сили ШІ та її ризиків стали неосуперечними. Можливо, найбільш характерним прикладом є Claude Mythos Preview, а також виявлення того, що передові моделі (frontier models) становлять дуже реальну загрозу кібербезпеці, створюючи можливість завдання шкоди фінансовому сектору, критичній інфраструктурі та національній безпеці. Mythos Preview повністю заплутав (scrambled, сленг/переносне значення: збентежити, ввести в оману) глобальну кібербезпеку. Але його більш широке значення полягає в тому, що він безумовно довів, що моделі ШІ зараз стали інструментами з глобальним та стратегічним значенням. Кіберризики, пов’язані з моделями рівня Mythos, не будуть останніми, з якими нам доведеться стикнутися. Я вважаю, що біоризики можуть швидко слідувати за ними, а за ними — серйозні ризики автономності ШІ (примітка 1).

Зараз ми глобально потребуємо запустити повільний і нестійкий інституційний механізм, щоб відповісти на ризики та можливості, які з дивовижною швидкістю будуть зростати з моменту зараз. Багато політиків проявляють все більш відкриту позицію щодо дій, що надихає, бо бачимо, що наші колеги також змінюють свою думку на користь позиції, які ми захищали протягом останніх кількох років. Це добре, але я стурбований тим, що ці ранні дії, мабуть, відстають від швидкого прогресу ШІ принаймні на рік. Ця стаття намагається зменшити цей розрив: прояснити, де зараз знаходиться експоненційний ріст, і які колективні дії необхідні для того, щоб відповісти на сьогоднішній виклик.

Я зосереджусь на п’яти довгострокових політичних сферах, які потрібно переглянути в світі ШІ: регулювання та суспільна безпека, макроекономіка та податкова політика, наукові інновації, баланс влади між державою та суспільством, а також геополітика. Я буду говорити переважно з точки зору політики США, оскільки Anthropic — це американська компанія, але більшість моїх рекомендацій стосуються й інших регіонів світу.

У супроводі цієї статті Anthropic опублікує законопроєкт щодо тестування передових моделей та політичний каркас щодо втрати робочих місць, і ми плануємо надати значну фінансову підтримку. Ми плануємо зробити більше у майбутньому, але вважаємо це першим кроком, що підтверджує нашу серйозність.

1. Регулювання та громадська безпека

Кожна нова технологія або продукт має корисні та шкідливі застосування, що створює дилему між інноваціями та безпекою. Регулювання продуктів зменшує ймовірність завдання шкоди та відіграє важливу роль у покращенні життя людей по всьому світу, але також може безпосередньо зменшити їхні переваги та непрямо пригнічувати інновації. Тут також існує гайєківська позиція, згідно з якою регулятори зазвичай не мають інформації, необхідної для прийняття правильних рішень щодо складних економічних компромісів, тому регулювання часто є неефективним та надмірно бюрократичним. Пов’язаним поняттям є дилема Коллінріджа, яка стверджує, що вплив технології зазвичай важко передбачити, доки не стане занадто пізно, щоб легко керувати ним.

У 2023–2024 роках ці динаміки особливо виразно проявилися в галузі ШІ (ідіома, що означає виразно виступати, привертає увагу або виглядає жахливо). Для Anthropic було зрозуміло, що ШІ майбутнього може мати здатність створювати біологічну зброю, що загрожує мільйонам людей, або його неправильна автономність у крайніх випадках може загрожувати самій людській расі. Менш зрозумілим було, як саме ці ризики проявляться, як найкращим чином тестувати та зменшувати їх, а також як вони розвинуться на практиці (ідіома, що означає розвиватися, давати результат). Тому попередньо розроблене законодавство несе високий ризик стати неефективним — створюючи безглузді або низькозначущі вимоги до відповідності, одночасно пропускаючи найважливіші джерела реальних ризиків (примітка 2).

Нарешті, ми прийшли до висновку, що правильним підходом у той час була прозорість. Розробники моделей ШІ повинні обов’язково розкривати свої процедури безпеки та тести, які вони проводять на моделях, і повідомляти про будь-які критичні події, пов’язані з безпекою, щоб громадськість і наукове співтовариство могли краще розуміти ці ризики, коли вони виникають. Коли та якщо ризики стануть більш очевидними, а їхні форми — більш чіткими, докази, отримані завдяки прозорості, можна буде використати для розробки розумного законодавства, спрямованого на найбільш тривожні ризики. Тому у 2025 році Anthropic підтримав законодавство про прозорість, допомігши прийняти SB 53 у Каліфорнії, RAISE у штаті Нью-Йорк та SB 315 у Іллінойсі (яке було прийняте на початку 2026 року), а також закликав до встановлення стандартів прозорості на федеральному рівні.

Проте зараз ризики стали очевидними. Прийшов час перейти від прозорості до більш серйозного та обов’язкового регулювання ШІ. Я вважаю, що, принаймні, на поточному етапі експоненційного зростання найкращою аналогією є автомобілі, літаки або ліки — це могутні технології, необхідні для сучасної економіки, але якщо вони неправильно спроектовані або експлуатуються, можуть призвести до масової гибелі людей. Тому я вважаю, що ми повинні створювати рамки регулювання ШІ за зразком таких організацій, як Федеральне управління цивільної авіації (FAA). Передові моделі ШІ, як літаки, повинні проходити технічні тести та аудит, і якщо вони не відповідають високим стандартам безпеки, їх випуск слід блокувати або вилучати, вважаючи їх загрозою для суспільної безпеки. Я вдячний за те, що адміністрація Трампа поступово рухається у напрямку надання уряду більшої ролі в галузі ШІ, хоча пропозиція Anthropic передбачає ще більш радикальні заходи. Наша пропозиція включає такі елементи:

• Моделі, які перевищують певний поріг обчислювальної потужності, повинні проходити обов’язкове незалежне тестування кваліфікованими третіми сторонами для оцінки рівня ризиків у чотирьох конкретних галузях: кібербезпека, біологічна зброя, втрата контролю над AI-системами та можливе прискорення автоматизованого розроблення цих інших ризиків.
• Якщо треті сторони визначать, що модель становить неприйнятний ризик, уряд повинен мати право заборонити або запобігти її розгортанню. Це повноваження має бути обмежене лише чотирма зазначеними конкретними ризиками, а також повинні існувати захисти від політичної упередженості або довільних рішень.
• Оцінку з боку третьої сторони можуть проводити урядові агентства (аналогічно FAA) або група приватних організацій, які отримали урядове повноваження та перевірку для оцінки моделей за певними стандартами (підхід «регуляторного ринку»).
• Компанії з штучним інтелектом, які розробляють передові моделі ШІ, повинні мати потужні стандарти безпеки для захисту вагів своїх моделей, проводити регулярні червоні команди (red teaming) та тестування на проникнення, а також співпрацювати з урядами для захисту від основних загроз.
• Необхідно вчасно повідомляти про інциденти безпеки у цих чотирьох ключових областях.

Може настати день, можливо, дуже швидко, коли найпотужніші системи ШІ будуть виглядати не так, як літаки чи автомобілі, а більше схожими на зброєні ядерні матеріали — це становитиме загрозу для людства, а не лише «просто» для громадської безпеки, і тоді нам потрібно буде піти далі. Якщо це станеться, нам може знадобитися застосування більш радикальних регуляторних заходів, ніж ті, що я перерахував вище (примітка 3). Але, оскільки в 2024 році важко визначити та застосувати заходи, які я запропонував, я вважаю, що ми не повинні діяти занадто поспішно (ідіома, що означає діяти занадто рано, заздалегідь). Ми повинні розробляти політику для небезпек, що виникають сьогодні, водночас закладаючи основу для швидшого підсилення наших заходів у випадку виникнення нових загроз.

2. Макроекономіка та податкова політика

Протягом тривалого часу уряди країн стикалися з викликом сприяння економічному зростанню, одночасно забезпечуючи важливі публічні послуги та гарантувати підтримку найбільш вразливих груп населення. Однією з ключових (і в цілому правильних) передумов цих дискусій є те, що економічне зростання є хрупким і важко досяжним — хоча зменшення нерівності може принести важливі переваги, воно повинно зважуватися на економічні бар’єри, пов’язані з підвищенням податків або збільшенням дефіциту.

Я підозрюю, що могутній ШІ може зруйнувати це припущення. Якщо ШІ отримає значно кращі, ніж у людей, здібності до виконання більшості когнітивних завдань, логічно, що він може призвести до надзвичайно швидкого й потужного економічного зростання завдяки прискоренню науки, технологій та операційної ефективності. Ітеративна здатність ШІ будувати кращий ШІ ще більше посилює цей ріст. Але з тих самих причин ШІ також може бути більш загальною економічною альтернативою людським когнітивним здібностям, ніж попередні технології, і швидше змінювати економіку, ніж попередні технології. Тому є підстави вважати, що ШІ може викликати набагато більший і потенційно триваліший збурення на ринку праці, ніж попередні технології. Ризик полягає в тому, що ми врешті-решт потрапимо у світ, де шкала економічних компромісів застрягла на налаштуванні суперзростання та супернерівності, і з якого може бути дуже важко вийти. У такому світі ключовим викликом вже не буде стимулювання зростання, а пошук способу, за яким кожен зможе отримати користь.

У темах, обговорюваних у цій статті, макроекономіка та тривала заміна працівників, мабуть, привернули найбільше уваги громадськості та найбільше непорозумінь, тому я хочу дуже чітко пояснити два моменти.

Спочатку, тривала втрата робочих місць є небажаною та небезпечною, і ми повинні зробити все можливе, щоб мінімізувати або запобігти їй, а не сприяти їй. Я попереджав про втрату робочих місць у інтерв’ю та статтях, бо хотів, щоб політикі та приватний сектор мали найкращі можливості адаптуватися та реагувати, а не тому, що намагався стати «пророком катастрофи». Як компанія, Anthropic завжди робить все можливе, щоб співпрацювати з клієнтами, шукаючи креативні нові випадки використання та джерела доходу, які дозволяють їм робити більше з наявною робочою силою, а не зосереджуватися лише на зменшенні витрат (що часто означає скорочення персоналу). З розвитком цих систем ми постійно намагаємося уявити нові інтерактивні парадигми, які дозволяють людям, що беруть участь у співпраці, виконувати якомога більш активну роль у системах ШІ. У більш широкому сенсі, цінно, щоб весь світ намагався використовувати ШІ якомога більшою кількістю нових способів, оскільки саме так суспільство виявляє нові потенційні конфігурації роботи. Я дійсно вважаю, що ШІ принесе велику кількість нових економічних можливостей. Я передбачав, що ШІ дозволить одній особі створити компанію вартістю в мільярд доларів, і ми вже бачимо команди з кількох осіб, які створили бізнеси з доходом в сотні мільйонів доларів. Але водночас ми повинні усвідомлювати, що незважаючи на всі наші зусилля, ШІ дуже ймовірно призведе до серйозної тривалої безробітності — це може бути властивим саме цій технології та її широким можливостям копіювання людського пізнання (примітка 4).

Друге, будь-які заходи щодо вирішення проблеми втрати робочих місць через штучний інтелект повинні водночас задовольняти потребу у економічній безпеці для кожного та потребу людей у пошуку змісту, мети та агентності. Останнє, у кінцевому підсумку, є більш важливим і залежить від глибоких питань про те, як має бути організований суспільство, чого мають прагнути люди та що становить гарне життя. Насправді, я дуже оптимістично вважаю, що навіть у світі, де штучний інтелект перевершує всіх людей у всіх аспектах, люди все ще можуть жити життям з глибокою метою та працювати над створенням захоплюючих і прекрасних речей (примітка 5). Але це питання, яке має бути вирішене суспільством у цілому, а не те, що можна вирішити безпосередньо за допомогою політики. Політика може відіграти найбільшу роль, сповільнюючи темпи безробіття та забезпечуючи економічну безпеку для тих, хто може постраждати, щоб дати нам час на вирішення цього завдання.

У цьому дусі ключовими політичними заходами, які можуть допомогти, є:

• Вимірювання та відстеження. Легко відкинути простий збір та аналіз даних як недостатні для вирішення масштабу проблеми, але якщо ми не зможемо точно виміряти те, що насправді відбувається, ми малоймовірно зможемо розробити ефективну політику. Anthropic вже протягом майже півтора року веде економічний індекс щодо того, як люди використовують Claude, але уряди можуть отримувати типи даних, яких ми не маємо, і можуть значно розширити свої економічні статистичні дані, щоб більш уважно відстежувати безробіття, спричинене ШІ.
• Заходи зі стимулювання зайнятості. Широкий спектр політичних заходів для підтримки зайнятості може допомогти сповільнити або зменшити втрату робочих місць, зокрема: політика страхування заробітної плати, яка компенсує працівникам втрату доходу, коли вони змушені приймати роботу з низькою оплатою (примітка 6), податкові стимули для роботодавців, що сприяють утриманню працівників, субсидії на підготовку кадрів або інфраструктура, що сприяє ефективному співставленню роботодавців і працівників для прискорення адаптації ринку праці. Хоча деталі щодо того, які інтервенції найефективніші, залежатимуть від того, якого типу заміщення праці призведе ШІ, ми повинні охоче прийняти витрати та зниження ринкової ефективності, пов’язані з цими заходами, особливо тому, що вони можуть бути компенсовані продуктивністю, зростаючою завдяки ШІ.
• Довгострокова макроекономічна підтримка. Якщо AI-зумовлена заміна праці в кінцевому підсумку стане масштабною і постійно знизить попит на працю, може виникнути необхідність піти далі за межі простих стимулюючих програм і забезпечити довгострокову підтримку доходів для значної частини працівників. Механізми, такі як універсальний базовий дохід, можуть фінансуватися за рахунок оподаткування відповідних компаній або підвищення податку на капітал. Універсальні капіталові рахунки надають інший інструмент. У широкому сенсі швидкий економічний зростання повинен створювати податкову базу для загального добробуту.

Однією з поширених турбот щодо економіки ШІ, яку я не згадав, є центри обробки даних, зокрема їхній потенціал підвищення цін на енергію. Моя позиція полягає в тому, що компанії, що розробляють ШІ, повинні самі компенсувати зростання тарифів — і Anthropic вже пообіцяла це зробити — але я вважаю, що вороже ставлення громадськості до центрів обробки даних у багатьох випадках є символом або способом випуску більш широких економічних тривог, пов’язаних із ШІ. Важливо, щоб ми проводили пряму суспільну дискусію щодо цих ширших економічних питань і пропонували конкретні, переконливі рішення, інакше вони, швидше за все, виявлятимуться непрямо, як із центрами обробки даних.

3. Прискорення позитивного впливу ШІ

Як і ми повинні прагнути до балансу між інноваціями та безпекою самої ШІ, ми також повинні прагнути до такого ж балансу для технологій, які можуть бути прискорені ШІ, таких як біомедицина, енергетика або матеріалознавство. Але хоча сама ШІ може принести дуже швидко виникнення нових викликів, з якими ми не маємо досвіду взаємодії, інші галузі, прискорені ШІ, можуть стикнутися з іншою проблемою: регуляторні системи, розроблені для повільних темпів інновацій, не готові до потоку нових продуктів та досягнень, які принесе ШІ. ШІ також може зробити ці нижчестоячі технології безпечнішими та передбачуванішими, тим самим руйнуючи скептичні припущення регуляторних органів, таких як Управління з контролю за харчами та ліками (FDA).

Тому щодо застосувань ШІ, на відміну від самого ШІ, я більше стурбований тим, що регулятори можуть сповільнити прогрес (оскільки не зможуть впоратися зі швидкими змінами), ніж тим, що він не вирішить важливі ризики. Ми найменше хочемо бачити, щоб користь від ШІ сповільнювалася, тоді як ризики все ближче, тому дуже важливо швидко вжити заходів щодо цього питання.

Це питання та його рішення проявлятимуться різними способами у різних галузях науки, бізнесу та технологій, тому я зосереджуватимусь на одному ілюстративному напрямку: біомедичних інноваціях. Це пояснюється тим, що він, ймовірно, стане джерелом найбільшої гуманітарної вигоди від ШІ, а також тим, що це область з особливо складним регулюванням. Ми точно не знаємо, як ШІ прискорить біомедичні інновації, але здається, що він це зробить:

• Значно підвищити швидкість потрапляння кандидатів на нові ліки до регуляторного каналу;
• Збільшення ефекту нового ліків та покращення їхньої безпеки завдяки кращій оптимізації, а також можливо кращому розумінню їхніх потенційних біологічних властивостей;
• Розроблено кандидати на ліки для лікування хвороб, які раніше не піддавалися успішному лікуванню;
• Швидко створювати нові форми терапії, як антитіла, пептиди та клітинні терапії, які за останні декілька десятиліть стали новими класами лікування.

Деякі з цих досягнень природним чином прискорять регуляторні терміни без необхідності структурних змін. Ліки з більшим ефектом можуть призвести до менших і менш витратних клінічних випробувань та активувати механізми прискореного схвалення. Але поточна регуляторна система була розроблена з припущенням, що кандидати на ліки зазвичай неефективні і навіть у разі ефективності часто мають серйозні проблеми з безпекою, що передбачає високий рівень перевірки та багато етапів тестування. Як у FDA, так і в Європейському агентстві з лікарських засобів (EMA), типовий час проходження кандидата на ліки через регуляторний канал становить 7–8 років, частково через ці пессимістичні припущення. Якщо не внести реформ, штучний інтелект просто переповнить цю систему.

Звичайно, ми не хочемо змінювати речі таким чином, щоб виникла хвиля «змієвої олії» (сленг, що означає обманські ліки) або масові безпекові інциденти. Але деякі відносно прості реформи можуть зробити FDA, EMA та подібні агентства більш пристосованими до швидкого наукового прискорення, запровадженого ШІ (якщо таке станеться).

Багато етапів клінічних процесів, які раніше вимагали дорогих і повільних експериментів, зараз можна швидко виконати за допомогою симуляції чи аналізу за допомогою ШІ. Регуляторні органи повинні зараз розглянути встановлення стандартів щодо умов, необхідних для прийняття таких методів. Це означає, що, як тільки ці методи виявляться ефективними, їх можна буде швидко впровадити, а не перебувати у тривалому періоді, коли вимагаються додаткові тести. Це може стосуватися таких галузей:

• На основі AI-моделювання фармакодинаміки та фармакокінетики (PD/PK);
• Токсикологічне прогнозування для уникнення необхідності проведення токсикологічних досліджень на багатьох видах тварин;
• Більш точний вибір дози, щоб зменшити необхідність використання широкого діапазону доз у дослідженнях;
• Верифікація біомаркерів шляхом аналізу великих наборів даних;
• Синтетичні контрольні групи в клінічних випробуваннях, щоб зменшити потребу у залученні більше учасників;
• Розробка альтернативних кінцевих точок (це особливо важливо при старінні та нейродегенеративних захворюваннях).

Крім цих конкретних прикладів, організаціям слід розглянути більш радикальні та гнучкі механізми прискореного схвалення. Якщо мої прогнози щодо ШІ вірні, то дуже скоро з’явиться багато раптових (out of the blue, ідіома, що означає несподівано, раптово) та дуже ефективних заходів, і регуляторна система повинна бути готова ставитися до них серйозно, а не виявляти надмірний скептицизм.

Прискорення біомедицини має значно збільшити користь від ШІ, але варто зазначити, що воно також може сприяти зменшенню ризиків, пов’язаних з ШІ. Реформування біомедичного схвалення може допомогти біозахисту, а також ШІ-засновані біомедичні досягнення можуть покращити психічне здоров’я, що може мати стабілізуючий ефект на суспільство.

4. Держава та громадянські свободи

Кожна система урядування повинна стикатися з питанням державної влади та її обмежень. Держава має законний, часто життєво важливий інтерес у захисті свого населення від внутрішніх та зовнішніх загроз. Але надання їй надмірної влади є шляхом до тиранії. Сучасні демократичні держави в значній мірі успішно керували цією рівновагою, але навіть у найкращі часи ця рівновага була незручною. Підтримка цієї рівноваги вимагає великої кількості правових та конституційних механізмів, що були створені протягом кількох століть — наприклад, у США: перша, четверта та п’ята поправки, Закон про міліцію (Posse Comitatus Act), Закон про іноземний розвідувальний нагляд (FISA) тощо.

Штучний інтелект загрожує зруйнувати цю рівновагу, одночасно значно підвищуючи ставки. Але якщо ми швидко відреагуємо та зустрінемо виклик лицем до лиця, ми зможемо використати ШІ для створення світу, який має потужніші й триваліші гарантії свободи та кращу захисту від загроз, ніж будь-коли раніше.

Потужний ШІ, що потрапив у руки злочинців, може стати остаточним інструментом авторитарного диктатуру, а наші існуючі правові та конституційні захисти не повністю підготовлені до боротьби з цією загрозою. Фундаментально, величезні вигоди, які інтелект приносить у світовій владі, поєднані з швидким темпом прогресу в розвитку ШІ, створюють ідеальну бурю (perfect storm, ідіома, що означає надзвичайно поганий стан, спричинений одночасним виникненням кількох негативних обставин) для того, щоб різні небезпечні діячі випадково захопили владу.

Ця небезпека може приймати різні конкретні технічні чи операційні форми, але їх спільною рисою є те, що ШІ може раптово надати величезну владу, обходячи (routing around, сленг/переносне значення, означає обхід перешкод або механізмів контролю) існуючі демократичні механізми нагляду. Те, що сьогодні звучить як наукова фантастика — повністю автономна армія дронів — у майбутньому може виконувати незаконні накази та дозволити уряду односторонньо закріпити свою владу; професійно підготовлені люди, ймовірно, будуть заперечувати проти таких незаконних указів. ШІ, спрямований на спостереження, може масштабно аналізувати широкодоступну інформацію та використовувати її для виведення найбільш прихованих деталей життя кожного громадянина — це технічна здатність, якої не враховують сучасні закони про громадянські свободи. Все це може відбутися за дуже короткий термін або таємно, тому дуже важливо активно посилювати зобов’язання демократичних країн щодо свободи та громадянських прав.

Ось деякі ідеї політик, які слід розглянути:

• Створіть надійні правила відповідальності для автоматичних зброї. Автоматичні зброї, особливо будь-які автономні системи, що координують або керують ними, повинні бути зобов’язані реагувати на конституційні та командні механізми відповідальності (наприклад, судові накази, законодавство та відповідальність перед вищими людськими контролерами), а не сліпо виконувати накази. Це може означати, що добре спроектована юридична група або судова влада має контроль над певним «вимикачем», або сама система в своєму внутрішньому навчанні шукає та реагує на законні наглядові органи, або обидва варіанти разом.
• Заборонено використовувати повністю автоматичну зброю в країні. Хоча повністю автоматична зброя має законні обґрунтування для захисту від іноземних супротивників (наприклад, російського вторгнення в Україну), немає жодних підстав для її застосування проти американців. Можливості збройних сил у внутрішніх операціях вже обмежені, але ідеально, щоб ця зброя також була заборонена для використання правоохоронними органами.
• Закрити вразливість, пов’язану з масовим збиранням даних/даними агентами. Згідно з чинним законодавством, дані, які американці надають приватним компаніям (наприклад, провайдерам інтернет-послуг), можуть купуватися та використовуватися для масового аналізу в цілях внутрішнього контролю та застосування закону. Ця вразливість у сфері захисту приватності існувала ще до появи ШІ, але ШІ значно підвищить ступінь важливості, роблячи масовий аналіз таких даних набагато більш інформативним і практичним, ніж раніше. Цю вразливість слід закрити.
• Право на отримання порад штучного інтелекту у випадку небажаних дій уряду. Як загальний принцип, будь-яка особа або організація, яка стає об’єктом небажаних дій уряду (наприклад, регулювання або правові дії), повинна мати можливість отримати штучний інтелект, щонайменше такий саме потужний, як той, який дозволено використовувати уряду при здійсненні конкретних дій. Це означатиме відсутність несправедливої переваги для уряду, яка могла б фактично підірвати законні права громадян. Це може бути додано або інтерпретовано як розширення або тлумачення Адміністративного процесуального закону, захисту справедливого процесу або права на юридичну допомогу згідно з Шостою поправкою.

Нарешті, варто зазначити, що у сфері захоплення влади завдяки ШІ уряди — не єдині суб’єкти, які повинні викликати у нас занепокоєння. У різні періоди історії (наприклад, золотий вік США або Британська Ост-Індська компанія) компанії ставали достатньо могутніми, щоб захопити державу або набути квазідержавних рис. ШІ дуже швидко стане настільки могутнім, що я занепокоєний тим, що його не можна безпечно повністю покласти на відповідальність урядам чи компаніям — і для обох сторін мають існувати механізми взаємного контролю.

Регулювання — це один із способів обмеження діяльності компаній (мої думки з цього приводу див. у розділі 1), але не менш важливо, щоб компанії з ІШ мали більше розподілення повноважень та відповідальності, ніж звичайні приватні суб’єкти. Довгостроковий довірчий фонд Anthropic (незалежний орган управління, створений для забезпечення виконання компанією її місії) — це саме така структура, і галузь повинна продовжувати досліджувати механізми, що йдуть ще далі. Досягнення правильного балансу — щоб і компанії, і уряд мали значущі обмеження своїх повноважень — є надзвичайно важливим.

5. Забезпечити лідерство демократичних країн

Вважати нові технології інструментом торгової політики з метою «поширення нашого технологічного стеку по всьому світу» — це стало загальною інстинктивною реакцією, можливо, розвинутою з досвіду останніх років у сфері інтернету та телекомунікацій. Але я дуже переконаний, що ШІ — це щось більш глибоке, що повністю змінює всю гру, і всі майбутні геополітичні стратегії повинні бути побудовані навколо нього — як ядерна зброя, але потенційно з ще більшим впливом.

Якщо ШІ дійсно швидко стане «країною геніїв у центрах обробки даних» або чимось подібним, то ШІ, найімовірніше, стане основним джерелом військової та економічної потужності будь-якої країни. У віртуальній країні з 100 мільйонами геніїв можна виділити 10 мільйонів на військову стратегію, 10 мільйонів на виробництво безпілотників, 10 мільйонів на розробку зброї, 10 мільйонів на збирання та аналіз розвідданих, 10 мільйонів на прогрес у загальній науці тощо. Країна з потужним ШІ, що стикається з країною без ШІ — або навіть з країною, яка відстає на 3 роки у ШІ — матиме перевагу, яка дорівнюватиме розриву між морською піхотою Другої світової війни та армією середньовічних мечників.

Крім того, якщо потужний ШІ здатний забезпечити глибші та, можливо, постійні форми авторитарного тиску (див. розділ 4), це робить особливо важливим забезпечення того, щоб найпотужніші країни світу були демократіями — або, щонайменше, наявність потужних захистів проти ШІ-драйверного тиску. Це також посилює терміновість розробки цільової геополітичної стратегії.

Демократичні країни повинні прагнути створити глобальний альянс, заснований на розробці ШІ відповідно до спільних цінностей, ітеративно намагаючись привернути інші регіони світу, роблячи приєднання до альянсу все більш привабливим, а відокремлення від нього — все менш привабливим. Цей альянс має бути координованою міжнародною ініціативою щодо ідей політики ШІ, розглянутих у розділах 1–4, плюс зусилля щодо блокування ключових ланцюгів постачання, необхідних для розробки ШІ, шляхом обміну ними всередині альянсу та відмови у наданні їх зовнішнім учасникам. Деякі принципи та операційні цілі можуть включати:

Керування ланцюжком постачання ШІ. Надійні члени альянсу повинні вільно обмінюватися чіпами та обладнанням для виробництва напівпровідників (SME), водночас спільно зусиллями запобігаючи отриманню їх конкурентами. Обмеження США щодо експорту передових чіпів та SME до Китаю є однією з основних причин, чому США зберігають загальний лідерство в галузі ШІ; ці політики потрібно розширювати, посилювати та координувати з іншими симпатизуючими країнами. Такі незавершені законопроекти, як MATCH і OVERWATCH, є хорошим початком, і союзницьким демократіям слід розглянути можливість прийняття подібних заходів.

• Координація для зменшення ризиків, пов’язаних з ШІ. Якщо координація здійснюватиметься на міжнародному рівні, політики, описані в розділі 1, спрямовані на зменшення ризиків, пов’язаних з біологією, кібербезпекою та автономністю, будуть більш ефективними (при меншому навантаженні на індустрію). Це означатиме, що компанії зможуть дотримуватися взаємно сумісних стандартів, а регулятори зможуть навчатися один у одного, як найкращим чином вимірювати та зменшувати ці ризики. Органи виконавчої влади та розвідки також повинні тісніше співпрацювати, щоб виявляти та перешкоджати зловживанням, наприклад, коли терористи намагаються використовувати ШІ для створення біологічної зброї.
• Поділитися прибутком від ШІ. Торговельні та регуляторні політики можуть сприяти швидшому поширенню економічних вигод від ШІ в межах союзу та обміну досвідом щодо прискорення інновацій. Координація методів корисного застосування може допомогти принести переваги ШІ країнам з розвитком. Наприклад, уніфікація системи медичного схвалення дозволить швидше та ефективніше тестувати та схвалювати ШІ-спрямовані ліки (як зазначено в розділі 3 вище).
• Спільна оборона. Країни альянсу повинні співпрацювати для використання ШІ у власній обороні та протидії ШІ супротивника. Альянс повинен спільно забезпечити достатнє виробництво ШІ-орієнтованої кібероборони, ШІ-керованих безпілотників, ШІ-керованого виробництва, секретних ШІ-обчислювальних ресурсів, ШІ-драйвованого науково-дослідного розвитку та ШІ-драйвованого збору розвідданих.
• Відмовитися від підтримки штучного інтелекту. Члени союзу повинні відмовитися від високотехнологічного, екстремально авторитарного, підтримуваного ШІ тиранії, про яку я попереджав у книзі «Підлітковий вік технологій», і повинні мати механізми безпеки, подібні до тих, що я описав у розділі 4 вище.
• Макроекономічна співпраця. Криза зайнятості або стабільності роботи, як і будь-яка інша економічна криза, має трансмежну зараженість. Тому країни мають спільний інтерес у співкоординації макроекономічної підтримки та стабілізаційних заходів (як описано в розділі 2), щоб зменшити будь-який вплив на зайнятість.

Метою має бути зробити членство в альянсі максимально привабливим — і зробити очевидною ціну залишення поза альянсом. Альянс буде базуватися на координації між суверенними державами, де кожна країна зберігає повний контроль над своїми внутрішніми справами. Він може розвиватися ітеративно, починаючи з ідеологічно схожих демократичних країн (які природно легко приєднуються), і поступово запрошуючи ті країни, які не є такими природними союзниками, але готові виконати стандарти альянсу в обмін на його величезні переваги членства. Ідеально, коли колись до альянсу приєднається весь світ. Але навіть якщо це неможливо, створення альянсу дозволить демократичним країнам зайняти найсильнішу позицію для обмеження та перевершення режимів, що уперто тримаються за репресивні уряди.

Вікно можливостей

Експоненційний прогрес ШІ створює терміновість і темпи змін, які зазвичай не підготовані політичні процеси. Але він також створює унікальне вікно можливостей. Чіткі та реальні докази ризиків ШІ, ранній досвід його потенціалу у створенні економічної вартості та її зруйнуванні, а також сильна реакція громадськості проти неконтрольованого підходу до ШІ поєднуються, формуючи ситуацію, коли політики надзвичайно відкриті до попередніх дій. Борода і його ліс прокидаються.

У сфері штучного інтелекту все більш поширеною вважається думка, що це питання публічних відносин: що ШІ потребує «кращого маркетингу». Я повністю відкидаю такий підхід. Люди стурбовані ШІ, тому що правильно відчувають, що його ризики є реальними, а не тому, що генеральні директори ШІ не виявляють достатньо «панглосізму» (літературний посилання/прикметник, що означає сліпий оптимізм). Я вважаю, що моя відповідальність як лідера ШІ — продовжувати бути прозорим щодо цих ризиків, і стурбованість громадськості цією прозорістю є проявом дії демократичної відповідальності у тому вигляді, в якому вона має працювати. Ключовим викликом є спрямування цього занепокоєння на конструктивні рішення, а не дозволити йому перетворитися на безформну злість і насильство.

Я оптимістично ставлюся до пошуку рішень, оскільки багато проблем — від вирішення безробіття до тестування моделей перед їх випуском, від обмежень на експорт чіпів до енергоспоживання та інших політичних питань, пов’язаних з ШІ — мають здатність привернути увагу на всьому політичному спектрі. Існує бажана, але реалістична майбутня ситуація, коли широкий позапартійний альянс, спонуканий безпосереднім розумінням викликів, що виникають через ШІ, прийме розумні та попередні політики набагато швидше, ніж зазвичай. Чим раніше ми це зробимо, тим швидше зможемо скористатися надзвичайними перевагами ШІ.

Я вдячний Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson та багатьом співробітникам Anthropic за їхні коментарі та відгуки щодо чернетки цієї статті.

Примітки

У моїй статті «The Adolescence of Technology» я розглядав біоризики та ризики автономії, а також інші питання. Інститут Anthropic також опублікував деякі попередні внутрішні дані у матеріалі «When AI Builds Itself» щодо можливостей рекурсивного самовдосконалення, тобто здатності моделей самостійно створювати кращі моделі.

Це явище не є теоретичним: ми неодноразово спостерігали це в рамках нашої добровільної системи управління (наприклад, нашої політики відповідального масштабування/Responsible Scaling Policy). Якщо ми встановимо для майбутніх моделей ШІ фіксований або жорсткий перелік вимог безпеки, дуже ймовірним результатом буде те, що ті вимоги, які виявляться незначними, споживатимуть 95% наших зусиль щодо дотримання вимог, тоді як ми виявимо, що деякі з найбільших джерел ризику взагалі не були передбачені в нашому переліку. Добровільні рамки можна змінювати та адаптувати, але для законодавства це набагато складніше. Мої зусилля щодо подолання цього ділеми можна побачити у двох листах, які я опублікував щодо SB 1047 — закону штату Каліфорнія 2024 року, спрямованого на вирішення катастрофічних ризиків, щодо якого я маю складні почуття через зазначені причини.

Наприклад, справжні серйозні біологічні ризики можуть бути складнішими для управління, ніж кіберризики, оскільки нападники мають значну перевагу над захисниками, а серйозність катастрофи може бути набагато більшою.

Дивіться «Підлітковий вік технологій» для більш детального аналізу того, чому логіка, яка призводить до швидкого відновлення ринку праці та відсутності тривалої заміни праці в інших технологіях, може не застосовуватися до ШІ, зокрема чому звичайні механізми адаптації, такі як парадокс Джевонса або порівняльні переваги, можуть бути подолані темпами розвитку технології.

Наприклад, люди все ще присвячують своє життя грі в шахи або го або сходженню на високі гори і все ще користуються великою повагою за ці дії, хоча машини можуть краще впоратися з усіма цими завданнями.

Це насправді надає людям додатковий стимул змінити роботу та розпочати навчання новій професійній сходинці, навіть якщо в короткостроковій перспективі це може бути болісним, якщо різницю між їхніми новою та старою зарплатами компенсується.

Для отримання додаткової інформації з цієї теми дивіться «Підлітковий вік технологій». (Ця стаття вперше опублікована в додатку Titanium Media, автор |硅谷Tech_news, редактор | Лін Шен)