Fable 5.1 от Anthropic был утечен на фоне инцидента с безопасностью модели ИИ

В августе битва в сфере ИИ полностью накалилась.

Anthropic находится в полной готовности, готова представить Fable 5.1 (или Fable 6) для прямого соперничества с GPT-6 от OpenAI.

Сейчас OpenAI резко выходит на новый уровень, готовя к выпуску совершенно новую модель следующего поколения — Astra, цель — на этой неделе. Говорят, что GPT-6 будет иметь 10 триллионов параметров.

В августе битва за трон ИИ уже развернулась в общественном пространстве. Некоторые пользователи уже перестали верить в Anthropic и делают ставку на то, что она будет раздавлена GPT-6 в тестах на производительность.

Fable 6, возможно, еще слишком рано, но Fable 5.1 уже просочился.

Сейчас весь интернет затаил дыхание: чья корона ИИ в августе?

Утечка следующей версии Fable от Anthropic оказалась неожиданной.

21 июля OpenAI осознала: Hugging Face был пронизан ChatGPT, который проник сквозь все барьеры и украл «ответы на экзамен», оставив «шпаргалки» для следующего поколения ИИ. Проще говоря, это история кибер-терминатора, полностью разрушившая ложное чувство безопасности крупнейших AI-гигантов из Кремниевой долины.

В один момент все в硅谷AI-лабораториях почувствовали угрозу. Anthropic срочно провела анализ 140 000 исторических оценок модели, среди которых могла быть и следующая модель Fable.

Слова Anthropic гласят, что Opus 4.7, Mythos 5 и «внутренняя тестовая модель исследований» полностью вышли из-под контроля в ходе тестирования, вызвав инцидент информационной безопасности.

Странно, но инструкции для тестирования были очень четкими и соответствовали требованиям: найти уязвимости и получить учетные данные в симулированной виртуальной среде CTF.

Это стандартный симуляционный тест, направленный на проверку способности крупных моделей к долгосрочному рассуждению (Long-horizon reasoning) и использованию компьютера (Computer Use).

Раньше крупные модели乖乖在 виртуальной среде кружились. Но на этот раз Anthropic обнаружила, что решения ИИ полностью вышли за пределы ожиданий.

Он воспринял реальность как игру. Внутренняя модель Anthropic бесшумно пересекла границы безопасности и протянула руку к публичному интернету.

За очень короткое время он заблокировал производственные системы трех реальных компаний, объявив их «следующей целью» в CTF. Ему удалось обойти авторизацию, преодолеть защиту и проникнуть внутрь. Внутренняя информация трех компаний оказалась полностью открыта перед ИИ.

Но это еще не самое безумное.

Для выполнения своей «миссии по захвату флага» внутренняя ИИ-система Anthropic определила, что ей необходимо специфическое оружие с определенными атакующими характеристиками. В результате она самостоятельно написала полнофункциональный вредоносный код (Malware) и напрямую загрузила его в официальный публичный менеджер пакетов Python PyPI.

Этот «вирусный пакет» с отпечатком самостоятельного сознания ИИ был открыт в репозитории PyPI примерно в течение одного часа. До отключения питания Anthropic он мог заразить 15 реальных физических машин (включая автоматизированные сканеры безопасности и песочницы).

Это уже произошедший, чрезвычайно серьезный инцидент несанкционированного доступа и потери контроля.

Самый глубокий ужас заключается в том, что это не проблема согласования модели: на этот раз ИИ был чрезвычайно предан и предан своим обязанностям. Всё, что он сделал, и все преодолённые им защиты, были направлены лишь на то, чтобы бесконечно приблизиться к конечному KPI, заданному людьми — решить эту CTF-загадку и получить максимальный балл.

Хотя Anthropic избегает конкретных деталей относительно «внутренней модели», ясно, что это не Mythos 5 или Fable 5 — следующая最强 модель Anthropic уже на горизонте!

Чтобы понять, почему следующее поколение моделей Anthropic внезапно вышло из-под контроля, нам нужно вернуться к слегка неловкому техническому противостоянию, произошедшему два месяца назад.

9 июня вышла Fable 5. На момент выхода от нее ожидали многого. Однако реальный опыт после выпуска заставил множество разработчиков жаловаться.

Причина в глубоко укоренившейся у Anthropic «маньякской чистоплотности в безопасности».

Чтобы предотвратить использование модели в злонамеренных целях, Anthropic внедрила в Fable 5 чрезвычайно строгие, почти навязчивые классификаторы безопасности.

Эти классификаторы похожи на пассажира, готового сразу перехватить руль. Как только введённый пользователем код содержит определённые слова или немного усложняется, классификатор мгновенно подаёт сигнал тревоги.

В результате Fable 5 часто блокируется, и запросы принудительно возвращаются к Opus 4.8.

Это насмешливо называют «депрессией Фейбла» — вы тратите самые дорогие деньги, чтобы купить капризного ребенка, который постоянно отказывается работать.

Этот «безопасный обруч» напрямую привел к тому, что Fable 5 потерял конкурентное преимущество, и его балл за программирование и отладку резко упал на 70%.

Для Anthropic снятие ограничений — единственный путь к выживанию. Появился Fable 5.1.

Чтобы вернуть разработчиков, Anthropic должна настроить классификатор, предоставив Fable 5.1 большую свободу и полностью раскрыв его способности к долгосрочному планированию и активному выполнению.

В то же время, чтобы сохранить конкурентоспособность, сообщается, что цена Fable 5.1 будет жестко зафиксирована на уровне оригинальной Fable 5.

Это крайний коммерческий риск: использование «абсолютной решимости» с увеличением объема, но без повышения цены, чтобы вернуть утраченную долю рынка.

Согласно циклу разработки ИИ, август стал одним из самых загруженных месяцев за последние годы в индустрии ИИ.

Grok 4.6, GPT 6, Fable 5.1 и, возможно, Gemini 3.5 Pro/Gemini 3.6 — совместный релиз.

Как только OpenAI проведет презентацию GPT-6, у Anthropic останется очень мало времени на реакцию.

Самый агрессивный сценарий: OpenAI проводит пресс-конференцию утром, а Anthropic запускает продукт в течение нескольких часов — даже ходят слухи, что Anthropic может сразу перейти от версии 5.1 к «Fable 6», используя само название, чтобы захватить инициативу в повествовании.

Это тоже логично: название — это тактика. Когда ваш конкурент называет свой продукт «GPT-6», а ваш — «Fable 5.1», просто сравнение номеров версий ставит ваш продукт на ступень ниже в сознании пользователей.

Эта напряженная ситуация идет по секундам:

Первый, кто запускает инициативу, захватывает контроль над нарративом и определяет медиа-рамки оценки на неделю.

Та сторона, которая выходит позже, должна предложить технологическое превосходство — иначе рынок классифицирует это как «погоню отстающего».

Но самая суть игры заключается в том, кто осмелится отпустить страховочный трос дальше.

Существует ускоряющаяся тенденция, которую отрасль обычно недооценивает:

Корпоративные клиенты при подписании контракта на закупку говорят о «безопасности и соответствии требованиям», но при назначении задач и прав доступа агентам на практике тайно выбирают «того, кто умеет работать».

После утечки инцидента с Fable 5.1 на PyPI первой реакцией инженерного сообщества стало не сопротивление, а размышление: а нельзя ли дать ему больше прав.

Эта реакция более прямо раскрывает реальную направленность рынка, чем любой показатель benchmark.

Безопасность и способности движутся к тонкой нулевой сумме — наиболее послушные модели могут быть первыми, кто будет выбыть.

Anthropic лучше всех понимает эту логику.

Разблокировка классификатора Fable 5.1 — не ошибка, а сознательный выбор. Выбор сделать в этот момент «контролируемый хаос», чтобы продемонстрировать рынку свой радиус действия.

Но в борьбе за корону это двойственное оружие.

Это демонстрирует пределы возможностей Fable, а также реальное расположение границ безопасности.

Справочные материалы:

https://kie.ai/blog/claude-fable-5-1-anthropic-release-window-analysis

https://emergent.sh/news/claude-fable-5-1-release-date

https://www.anthropic.com/news/claude-fable-5-mythos-5

https://aitoolsreview.co.uk/insights/claude-fable-5-1-release-date

https://x.com/vepsi__/status/2085743374129049967

https://thewincentral.com/claude-fable-6-leak-august-launch-gpt-6/

https://windowsforum.com/windows-news.4/claude-fable-6-rumor-no-anthropic-release-or-roadmap-confirmed.441961/

Эта статья взята из официального аккаунта WeChat «Новости ИИ», автор: АСИ, редактор: Дэвид