В том, что, несомненно, превратилось в стремительно обостряющуюся гонку ИИ, Anthropic представила «Glasswing» — проект, основанный на их новой модели Claude Mythos Preview, который свидетельствует как об амбициях, так и о сдержанности.
Инициатива позиционируется как прорыв в понимании продвинутых ИИ-систем и далеко не изолированный исследовательский проект — она связана с совершенно новой моделью, которую компания намеренно не выпускает в общественное пользование.
Модель, которую нельзя использовать — и в этом суть
В мире, где существует постоянный поток все более доступных инструментов на основе искусственного интеллекта, последняя модель Claude Mythos Preview от Anthropic, заметно, не выпускается для общего пользования.
Под крылом project Glasswing инициатива будет доступна для избранных технологических гигантов, таких как Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks, в рамках того, что Anthropic описывает как «усилие по обеспечению безопасности самого важного программного обеспечения в мире».
Решение избежать масштабного внедрения подчеркивает растущее напряжение в программной индустрии — баланс между инновациями и безопасностью.
Anthropic, похоже, придерживается очень осторожного подхода, отдавая приоритет глубокому анализу вместо быстрого внедрения. Причины этого были описаны самой командой:
Mythos Preview уже обнаружил тысячи уязвимостей высокой степени опасности — включая некоторые в каждой из основных операционных систем и веб-браузеров.
Сама модель описывается как высоко продвинутая и разработанная не только для производительности, но и для интерпретируемости. Проще говоря, она создана так, чтобы её можно было изучать так же активно, как и использовать. Фактически, Anthropic выделяет до 100 миллионов долларов в виде кредитов на использование Mythos Preview для партнёров проекта и обещает поделиться тем, что они узнают.
Внутри черного ящика
В основе проекта Glasswing лежит цель выявлять уязвимости и эксплойты с помощью Claude Mythos Preview.
Anthropic сообщила, что многие из тысяч обнаруженных моделью ошибок были критическими и присутствовали практически во всех основных операционных системах и всех основных веб-браузерах, а также во множестве других важных программ. Это были уязвимости нулевого дня, то есть ранее неизвестные разработчикам программного обеспечения.
Например:
Mythos Preview обнаружил уязвимость возрастом 27 лет в OpenBSD — операционной системе, имеющей репутацию одной из самых защищенных в мире и используемой для запуска брандмауэров и другой критически важной инфраструктуры. Уязвимость позволяла злоумышленнику удаленно завершить работу любого компьютера, на котором запущена эта операционная система, просто подключившись к нему.
В этом смысле Glasswing представляет собой важный сдвиг в подходе к разработке ИИ сегодня. Вместо гонки за выпуском наиболее мощных систем Anthropic инвестирует в понимание их в первую очередь.
Пост Inside Claude Mythos Preview: Anthropic’s Secretive New Model and Its Transparency Play появился первым на CryptoPotato.