27-річний британський дослідник, який працював над передньою підготовкою в Anthropic, публічно подав у відставку, попередивши, що гонка за створенням рекурсивно самовдосконалювальної ШІ може призвести до вимирання людства до кінця десятиліття.
Джейкоб Коксон залишив одну з найвідоміших компаній у світі з безпеки ШІ приблизно 8–9 вересня, і його прощальне повідомлення не було ввічливим постом у LinkedIn про «цікаві нові розділи». Це було попередження про те, що люди, які створюють ці системи, справді вважають, що можуть спричинити катастрофічні наслідки, і термін, коли речі можуть вийти з-під контролю, може настати вже наступного року.
Внутрішній сигнал тривоги
Те, що робить відставку Коксона особливо важким проігнорувати, — це те, що сталося далі. Його власні колеги з Anthropic почали публічно згоджуватися з ним.
Еван Губінгер, який посідає посаду лідера з налаштування наукових досліджень у Anthropic, підтвердив твердження Коксона в соціальних мережах. Його особиста оцінка: більше ніж 10% ймовірність того, що ШІ призведе до масових людських жертв протягом наступного десятиріччя.
Хубінгер пішов далі, визнавши, що Anthropic не має чіткого плану забезпечення збігу з надінтелектуальними системами.
Самуель Маркс, ще один дослідник Anthropic, підтримав подібні занепокоєння, зазначивши, що старші співробітники всередині компанії особливо стурбовані ризиками, пов’язаними з вимиранням.
Коксон спеціально критикував використання термінів, таких як «crunchtime» і «endgame», у колах розробників ШІ. Ці слова підносять прагнення до суперінтелекту як щось термінове й неуникне, як змагання, яке потрібно виграти, а не як ризик, який потрібно керувати. Він стверджував, що саме таке формулювання є частиною проблеми.
Патерн виходів
Коксон не є першим дослідником, зосередженим на безпеці, який залишив Anthropic зі стурбованістю щодо напрямку компанії. Мрінанк Шарма, який керував командою досліджень заходів безпеки компанії, подав у відставку у лютому 2026 року. Шарма зазначив зростаючі небезпеки, пов’язані з ШІ та біологічними зброєю, посилаючись на зовнішні тиски, які, за його словами, погіршували етичну поведінку компанії.
Іронія густа. Anthropic була заснована колишніми співробітниками OpenAI, зокрема генеральним директором Даріо Амодеї, саме тому, що вони вважали, що OpenAI недостатньо серйозно ставиться до безпеки. Вона мала бути альтернативою з пріоритетом безпеки. Зараз її власні дослідники з безпеки залишають компанію, бо вважають, що Anthropic недостатньо серйозно ставиться до безпеки.
Конкуренція як прискорювач
Попередження Коксона спеціально вказувало на міжнародну конкуренцію як на фактор, що погіршує ситуацію. Тиск відстежувати темпи своїх конкурентів, зокрема з китайських лабораторій ШІ, створює середовище, де зупинка для забезпечення безпеки виглядає як одностороннє роззброєння.