Anthropic сказала, що світ повинен мати можливість повільно розвивати або тимчасово призупинити розробку передових ШІ, якщо лідери ШІ-лабораторій та уряди зможуть створити вірогідний спосіб перевірки дотримання всіма.
У новому звіті Інституту Anthropic компанія зазначила, що призупинення може надати політикам, дослідникам та громадянському суспільству більше часу для вирішення ризиків, пов’язаних із все більш здатними системами ШІ. Але компанія попередила, що сповільнення покращить безпеку лише тоді, коли воно буде застосоване в кількох добре забезпечених лабораторіях на передовій або поблизу неї.
Anthropic зазначила, що одностороння зупинка однією компанією буде легшою для реалізації, але значно менш ефективною, оскільки це просто передаст лідерство менш обережним учасникам. Компанія сказала, що будь-яка значуща зупинка вимагатиме, щоб розробники в кількох країнах зупинилися за однакових умов і підтвердили, що конкуренти також зупинилися.
Попередження звучить на тлі заяви Anthropic, що інтелектуальні системи вже прискорюють розробку нових моделей ШІ. На травень 2026 року більше 80% коду, що було об’єднано до бази коду Anthropic, було написано Claude, порівняно з низькими одиницями до запуску Claude Code у дослідній версії у лютому 2025 року.
Компанія сказала, що типовий інженер Anthropic об’єднував у другому кварталі 2026 року вісім разів більше коду на день, ніж у 2024 році. Внутрішнє опитування у березні 2026 року також показало, що дослідники, які використовували Mythos Preview, оцінили, що вони виробляють приблизно в чотири рази більше результатів, ніж без використання моделей ШІ.
Anthropic сказала, що ці досягнення вказують на більш широкий зсув у тому, як створюються передові AI-системи. Людські інженери та дослідники все ще встановлюють цілі, перевіряють вихідні дані та вирішують, які проблеми мають значення, але Claude бере на себе більше роботи з виконання завдань у сфері кодування, тестування, виправлення помилок та оптимізації експериментів.
Компанія описала цю тенденцію як початковий крок до рекурсивного самовдосконалення — сценарію, в якому системи ШІ зможуть автономно проектувати та розробляти власних наступників. Anthropic зазначила, що така система ще не існує і може не бути невідворотною, але попередила, що вона може з’явитися швидше, ніж більшість інституцій готові до цього.
Якщо це станеться, Anthropic зазначила, що темпи розвитку ШІ можуть стати більш прямо пов’язаними з наявністю обчислювальних ресурсів та зростанням ефективності, тоді як люди перейдуть до нагляду, перевірки та верифікації. Це зробить системи, використовувані для моніторингу розвитку передових ШІ, ще більш важливими, особливо якщо моделі ШІ почнуть відігравати більшу роль у створенні майбутніх версій самих себе.
Anthropic зазначила, що виклик полягає в тому, що перевірка призупинення розвитку ШІ складніша, ніж моніторинг багатьох інших технологій. Тренувальні процеси можна приховати, їх вхідні дані мають загальне призначення, а стимул до таємного порушення був би надзвичайно великий, якщо один учасник міг би отримати лідерство, поки інші зупинилися.
Компанія зазначила, що відповідна зупинка вимагатиме чітких правил щодо того, що її запускає, що її завершує, і хто вирішує, чи були виконані умови. Вона порівняла цю проблему з режимами контролю зброї для інших складних технологій, зазначивши, що ці системи вимагали десятиліть на розробку, а штучний інтелект може не залишити урядам багато часу.
Anthropic заявила, що планує організувати розмови у найближчі місяці з політиками, дослідниками, громадськістю та іншими компаніями з області ШІ, щоб дослідити рекурсивне самовдосконалення та можливі механізми координації для розробки передових ШІ.
Компанія сказала, що очікує зупинити або тимчасово призупинити розробку, якщо інші розробники передових технологій також зроблять це перевіреним способом.