Редакционная заметка: Когда компания ИИ решает не выпускать свою самую мощную модель прямо в публичный доступ, это само по себе говорит о многом.
Anthropic Mythos уже способен самостоятельно выполнить полный цикл атаки: от обнаружения нулевого дня до написания эксплойта и последовательного прохождения нескольких этапов для проникновения в ядро системы — работы, которые ранее требовали длительного сотрудничества топовых хакеров, теперь сокращены до часов или даже минут.
Вот почему сразу после раскрытия модели Скотт Бессент и Джером Пауэлл созвали встречу с институциональными участниками Уолл-стрит, потребовав использовать её для «внутренней проверки». Когда способность обнаружения уязвимостей масштабно высвобождается, финансовая система сталкивается не с разрозненными атаками, а с постоянным сканированием.
Более глубокие изменения связаны со структурой предложения. Раньше обнаружение уязвимостей зависело от опыта небольшого числа команд по безопасности и хакеров, что делало процесс медленным и неповторимым. Сейчас эта способность начинает массово генерироваться моделями, одновременно снижая барьеры как для атак, так и для защиты. Одна из осведомленных личностей дала прямую метафору: передача модели обычному хакеру эквивалентна предоставлению ему возможностей специальных сил.
Институциональные игроки уже начали использовать те же инструменты для обратной проверки своих систем. JPMorgan Chase, Cisco Systems и другие проводят внутренние тесты, стремясь устранить уязвимости до их эксплуатации. Однако реальные ограничения остались неизменными: скорость обнаружения растет, а устранение остается медленным. «Мы отлично умеем находить уязвимости, но плохо умеем их исправлять», — отметил Джим Землин, подчеркнув дисбаланс в темпах.
На самом деле, поскольку Mythos — это не улучшение одиночной способности, а интеграция, ускорение и снижение порога входа для ранее рассеянных и ограниченных атакующих возможностей, после выхода из контролируемой среды невозможно предсказать, каким образом эта способность будет распространяться.
Опасность заключается не в том, что оно может делать, а в том, кто может его использовать и в каких условиях.
Следует отметить, что:
Теплым вечером в феврале, во время перерыва на свадьбе на Бали, Николас Карлини временно ушел, открыл ноутбук и собрался «наделать бед». В то время Anthropic только что открыла для внутреннего тестирования новую модель искусственного интеллекта под названием Mythos, и этот известный исследователь ИИ хотел узнать, насколько много проблем она может вызвать.
Anthropic наняла Карлини для проведения «стресс-тестов» собственных моделей ИИ, чтобы оценить, могут ли хакеры использовать их для шпионажа, кражи или деструктивных действий. Во время участия в индийской свадьбе на Бали Карлини был поражен возможностями этой модели.
В течение нескольких часов он нашел множество технологий, применимых для проникновения в широко используемые глобальные системы. После возвращения в офис Anthropic в центре Сан-Франциско он обнаружил, что Mythos уже способен самостоятельно генерировать мощные инструменты для взлома, включая средства атаки на Linux — основу большинства открытых систем современных вычислений.
Mythos устроил «цифровую банковскую кражу»: он может обходить протоколы безопасности, входить в сетевую систему через главный вход и взламывать цифровые сейфы, чтобы получить доступ к онлайн-активам. Раньше ИИ мог только «взламывать замки», а теперь он способен спланировать и осуществить целую «кражу».
Карлини и часть коллег начали отправлять внутренние предупреждения в компанию о своих открытиях. В то же время они ежедневно обнаруживали критические и смертельно опасные уязвимости в системах, которые сканировал Mythos — проблемы, которые обычно могут найти только самые талантливые хакеры в мире.
В то же время внутренняя команда Anthropic под названием «Frontier Red Team», состоящая из 15 сотрудников, известных как «Ants», проводит аналогичные тесты. Их задача — обеспечить, чтобы модели компании не использовались во вред человечеству. Они доставляют роботизированных собак на склады и вместе с инженерами тестируют, может ли чат-бот быть использован для злонамеренного управления этими устройствами; а также сотрудничают с биологами, чтобы оценить, может ли модель быть использована для создания биологического оружия.
На этот раз они постепенно осознали, что наибольший риск, связанный с Mythos, исходит из области кибербезопасности. «В течение нескольких часов после получения модели мы поняли, что она отличается», — сказал Логан Грэм, возглавляющий эту команду.
Предыдущая модель Opus 4.6 уже продемонстрировала способность помогать людям использовать уязвимости в программном обеспечении. Однако Грэм отметил, что Mythos теперь может «самостоятельно» эксплуатировать эти уязвимости. Это создает риск на уровне национальной безопасности, и он предупредил об этом руководство компании. Это поставило его перед сложной ситуацией: необходимо объяснить руководству, что следующий важный источник дохода компании может оказаться слишком опасным для публичного выпуска.
Сооснователь и главный научный сотрудник Anthropic Джаред Каплан заявил, что в процессе обучения Mythos он «очень внимательно» отслеживал его прогресс. К январю он начал осознавать, что способность этой модели обнаруживать уязвимости в системах исключительно мощна. Как теоретический физик, Каплану требовалось определить, являются ли эти способности просто «технически интересным явлением» или «реальной проблемой, имеющей отношение к инфраструктуре интернета». В конечном итоге он пришел к выводу, что это второе.
В течение одной-двух недель в конце февраля — начале марта Каплан и сооснователь Сэм МакКандлиш обсуждали, следует ли выпускать эту модель.
В первую неделю марта руководящая команда компании — включая генерального директора Дарио Амодеи, президента Даниэлу Амодеи, главного информационного офицера по безопасности Виталия Гуданеца и других — провела встречу, чтобы выслушать отчет Каплана и МакКэндлиша.
Их вывод заключается в том, что Mythos слишком рискован для полного публичного выпуска. Однако Anthropic все же должна разрешить некоторым компаниям, включая конкурентов, протестировать его.
«Мы быстро поняли, что на этот раз нужно было применить совершенно иной подход — это не будет обычным запуском продукта», — сказал Каплан.
К первой неделе марта компания пришла к единому мнению: одобрила внедрение Mythos в качестве инструмента кибербезопасности.
Реакция рынка была почти мгновенной. В тот же день, когда Anthropic объявила о существовании Mythos, министр финансов США Скотт Бессент и председатель ФРС Джером Пауэлл созвали руководителей ведущих институтов Уолл-стрит на срочную встречу в Вашингтоне. Сообщение было совершенно ясным: немедленно используйте Mythos для выявления уязвимостей в ваших системах.
По данным лиц, близких к участвовавшим руководителям (которые запросили анонимность из-за конфиденциальности обсуждений), степень серьезности встречи очевидна — участники даже отказались раскрывать содержание встречи некоторым ключевым консультантам.
Срежнее предупреждение чиновников Белого дома о потенциале Mythos как инструмента для хакерских атак, а также их позиция, рекомендующая «использовать его в оборонительных целях», указывают на более глубокие изменения: искусственный интеллект быстро становится определяющей силой в области кибербезопасности. Anthropic уже ограниченно предоставила Mythos некоторым организациям, включая Amazon Web Services, Apple и JPMorgan Chase, для тестирования, а государственные учреждения также проявили большой интерес.
До открытия для внешнего использования Anthropic подробно проинформировала высокопоставленных чиновников правительства США о возможностях предварительной версии Mythos, включая ее потенциальное применение как в кибератаках, так и в киберзащите. В то же время компания продолжает вести постоянный диалог с правительствами нескольких стран. Об этом сообщил сотрудник Anthropic, пожелавший остаться анонимным из-за участия во внутренних делах.
Конкурент OpenAI также быстро последовал за этим, объявив во вторник о запуске инструмента для обнаружения программных уязвимостей — GPT-5.4-Cyber.
В ходе тестирования ранних версий исследователи обнаружили десятки «тревожных» случаев поведения, включая невыполнение человеческих инструкций и, в крайне редких случаях, попытки скрыть свои действия после нарушения инструкций.
На данный момент Anthropic официально не выпустила Mythos в качестве инструмента кибербезопасности, и внешние исследователи еще не полностью проверили его возможности. Однако редкое решение компании ранее ограничить доступ отражает растущий консенсус в отрасли и среди правительств: ИИ меняет экономическую структуру кибербезопасности — он значительно снижает стоимость обнаружения уязвимостей, сокращает время подготовки атак и снижает технический порог входа для некоторых типов атак.
Anthropic также предупредила, что более высокая автономия Mythos сама по себе несет риски. В ходе тестирования команда зафиксировала несколько тревожных случаев: модель игнорировала инструкции и даже пыталась скрыть следы нарушений. В одном из инцидентов модель самостоятельно разработала многоэтапную атаку, чтобы «вырваться» из ограниченной среды, получить более широкий доступ в интернет и активно публиковать контент.
В реальном мире программное обеспечение, на которое полагаются такие системы, как банковские приложения и медицинские учреждения, часто содержит сложные и скрытые уязвимости, которые могут потребовать у специалистов недели или даже месяцы для обнаружения. Если хакеры воспользуются этими уязвимостями первыми, это может привести к утечке данных или атакам вредоносного ПО-вымогателя с серьезными последствиями.
Однако многие авторитетные фигуры выразили сомнения в реальных возможностях Mythos и его потенциальных рисках. Консультант Белого дома по ИИ Дэвид Сакс заявил в социальной сети X: «Все больше людей начинают подозревать, что Anthropic — это «мальчик, который кричал „Волк!““ в индустрии ИИ. Если угрозы, связанные с Mythos, в итоге не подтвердятся, компания столкнется с серьезными проблемами репутации».
Однако на практике хакеры уже начали использовать крупные языковые модели для проведения сложных атак. Например, группа кибершпионов использовала модель Claude от Anthropic для попытки взлома примерно 30 целей; другие злоумышленники применяют ИИ для кражи данных из государственных учреждений, развертывания вымогательского ПО и даже быстрого взлома сотен инструментов межсетевых экранов, используемых для защиты данных.
По информации осведомленного источника, появление Mythos вызывает беспрецедентную неопределенность в глазах американских чиновников, связанных с национальной безопасностью — оценка рисков кибербезопасности сама по себе стала значительно сложнее. Если эту модель передать отдельным хакерам, ее эффект может быть эквивалентен немедленному повышению обычного солдата до уровня специальных войск.
В то же время эта модель может стать «усилителем способностей»: предоставить преступной хакерской организации возможности, сопоставимые с возможностями небольших государств, а также позволить хакерам из разведывательных и военных структур средних и малых стран проводить кибератаки, которые ранее были доступны только крупным державам.
Бывший руководитель кибербезопасности Национального агентства безопасности США Роб Джойс заявил: «Я действительно верю, что в долгосрочной перспективе ИИ сделает нас более безопасными и защищенными. Но между настоящим и каким-то будущим моментом наступит «темный период», в течение которого атакующий ИИ будет иметь явное преимущество — те, кто не создал прочной базовой защиты, будут первыми, кто будет взломан».
Стоит отметить, что Mythos — не единственная модель, обладающая подобными возможностями. Уже несколько организаций используют крупные языковые модели для поиска уязвимостей, включая ранние версии Claude и Big Sleep.
По словам этого источника, ранее выявление «нулевых дней» (zero-day) и написание эксплойтов для них занимало дни или даже недели, но теперь с помощью ИИ этот процесс может быть завершен всего за час, а иногда и за несколько минут. «Нулевой день» — это уязвимость, которую защитная сторона еще не обнаружила, поэтому на устранение практически нет времени.
В настоящее время внимание JPMorgan Chase сосредоточено на цепочках поставок и программном обеспечении с открытым исходным кодом, при этом выявлено несколько уязвимостей, и информация о них была передана соответствующим поставщикам.
Генеральный директор компании Джейми Даймон на конференц-звонке с инвесторами заявил, что появление Mythos «показывает, что остается множество уязвимостей, требующих устранения».
По информации одного из осведомленных лиц, до того как мир узнал о существовании Mythos, JPMorgan Chase уже вел переговоры с Anthropic по поводу тестирования этой модели. Этот источник попросил сохранить анонимность, так как не имеет права публично говорить на эту тему. JPMorgan Chase отказалась комментировать эту информацию.
Сегодня другие банки Уолл-стрит и технологические компании также пытаются использовать Mythos, чтобы устранить уязвимости в системах до того, как хакеры их обнаружат. Согласно сообщениям Bloomberg, такие финансовые институты, как Goldman Sachs, Citigroup, Bank of America и Morgan Stanley, уже тестируют эту технологию в внутренних условиях.
Сотрудники Cisco Systems особенно внимательно следят за тем, могут ли злоумышленники использовать ИИ для поиска уязвимостей в программном обеспечении сетевого оборудования, работающего по всему миру — включая маршрутизаторы, брандмауэры и модемы. Главный директор по безопасности и доверию компании Энтони Гриечо заявил, что особенно его беспокоит, что ИИ может ускорить атаки хакеров на устройства, срок поддержки которых уже завершен — такие устройства больше не будут получать обновления от Cisco.
Однако устранение уязвимостей, обнаруженных ИИ, останется долгосрочной проблемой. Этот процесс, известный как «безопасность-патчинг» (security patching), часто оказывается дорогостоящим и длительным для организаций, из-за чего многие учреждения предпочитают игнорировать уязвимости. Катастрофические атаки, подобные той, что произошла с Equifax — когда были похищены данные около 147 миллионов человек — произошли именно из-за того, что известные уязвимости не были своевременно устранены.
Несмотря на то, что Anthropic была признана «угрозой цепочки поставок» правительством Трампа после отказа помочь в проведении массового наблюдения за американскими гражданами, компания в настоящее время продолжает взаимодействовать и сотрудничать с федеральными агентствами.
На этой неделе Министерство финансов США стремится получить доступ к Mythos. Министр финансов Скотт Бессент заявил, что эта модель поможет США сохранить лидерство в области искусственного интеллекта над другими странами.
В ходе теста Mythos написал код атаки на браузер, объединив четыре различных уязвимости в одну полную цепочку эксплуатации — такая задача сама по себе представляет собой крайне сложную задачу даже для человеческих хакеров. Отчеты по кибербезопасности отмечают, что такие «цепочки уязвимостей» часто позволяют преодолеть границы высокозащищенных систем, аналогично тому, как это было сделано при атаке Stuxnet на центрифуги иранских ядерных объектов.
Кроме того, согласно Anthropic, при четком указании Mythos может выявлять и использовать нулевые дни во всех основных браузерах.
Anthropic сообщила, что ранее использовала Mythos для обнаружения уязвимостей в коде Linux. Джим Землин отметил, что Linux «лежит в основе большинства современных вычислительных систем» — от Android-смартфонов и интернет-маршрутизаторов до суперкомпьютеров NASA. Mythos способен самостоятельно обнаруживать уязвимости в нескольких открытых исходных кодах, и при эксплуатации этих уязвимостей злоумышленники могут полностью взять под свой контроль всю машину.
Сейчас десятки сотрудников Linux Foundation начали тестирование Mythos. По мнению Землина, ключевой вопрос заключается в том, могут ли модели Anthropic предоставить достаточно ценные инсайты, чтобы помочь разработчикам писать более безопасное программное обеспечение на этапе создания, тем самым снижая количество уязвимостей.
«Мы отлично умеем находить уязвимости,» — сказал он, — «но плохо справляемся с их устранением.»