ИИ обнаружил почти 5 000 уязвимостей bitcoin за 27,5 часа

Автор: Сяобинь

16 человек, 27,5 часа, 4962 безопасные проблемы, 85 критических уязвимостей, 635 высоких рисков.

Эти цифры предоставлены добровольческой организацией Bitcoin Red Team. В течение последних двух дней они провели масштабный аудит безопасности 390 открытых проектов bitcoin, используя модели ИИ, в среднем фиксируя 166 уязвимостей в час и обнаруживая одну уязвимость серьезного уровня на человека в час.

Основатель протокола Cashu Калле опубликовал первый отчет на X, начав его четырьмя словами, описывающими ситуацию: «Ситуация крайне плохая.»

Но настоящая тревога вызывает не само число.

Этот аудит не был инициирован случайно.

Неделю назад экосистема биткоина пережила крупнейшую в истории инцидент с аппаратными кошельками. Из-за дефекта генератора случайных чисел в обновлении прошивки 2021 года кошельки Coldcard позволили оффлайн-вычислить приватные ключи. С 30 июля злоумышленники в четыре волны ограбили более 5200 адресов; по данным Galaxy Research, потери составили около 1816 BTC, что при текущих ценах превышает 116 миллионов долларов США.

Этот баг бездействовал в открытом коде пять лет, его мог проверить любой, но почти никто не рассматривал его систематически.

Событие с Coldcard стало катализатором. Калле и Роб Хэмилтон, генеральный директор AnchorWatch, быстро сформировали Red Team, получили финансирование от OpenSats и потратили более 40 000 долларов на вычислительные мощности ИИ. Используемые ими модели включают Kimi K3 от Moonshot, GPT Sol от OpenAI, Fable и Opus от Anthropic, а также GLM5.2 от Zhipu.

На начальном этапе проекта доступ к моделям OpenAI и Anthropic был ограничен, и команда в основном полагалась на китайские открытые модели. Сам по себе этот факт интересен: за безопасность крупнейшей в мире инфраструктуры криптовалютных активов боролись волонтеры с китайскими открытыми ИИ-моделями, работая круглосуточно.

Данные через 27,5 часа выглядят следующим образом: из 4962 вопросов 14,5% относятся к высокому или критическому уровню риска, в среднем на каждый проект приходится 1,85 критических проблем. Наиболее высокий процент критических находок — 24% — приходится на инструменты для конфиденциальности и CoinJoin; далее следуют биржи и протоколы обмена — 21%. Криптографические библиотеки и SDK дали наибольшее количество исходных находок (1101), но процент критических из них составил лишь 10%. 91% находок были представлены с помощью автоматизированного сканирования, а 21% уже подтверждены с помощью кода концепции-доказательства в локальной среде.

Из 17 участников 14 — люди, а 3 — автоматизированные системы.

Роб Хэмилтон написал в X одну фразу, важнее всех цифр: «Самая сложная часть — не найти баг, а доставить его нужному человеку.»

В мире традиционных исследований безопасности «обнаружение» — самый дорогостоящий этап. Топовый исследователь безопасности может тратить несколько недель на реверс-инжиниринг кода, чтобы найти уязвимость, пригодную для эксплуатации. ИИ снизил эти затраты до почти нулевых. 16 человек, работающих вместе с моделью ИИ, за один день достигают результата, равного работе аудиторской компании в течение нескольких месяцев.

Проблема возникла после обнаружения. На момент публикации отчета только 19 из 390 аудируемых проектов (менее 5%) завершили раскрытие информации на верхнем уровне. Калле извинился перед сопровождающими в твите, отметив, что понимает, как наплыв отчетов увеличил их нагрузку, и команда все еще учится фильтровать шум. 8 обнаружений уже были отозваны как ложные срабатывания.

Это структурное изменение: ИИ превратил поиск ошибок в практически бесплатное действие, и узкое место всей цепочки безопасности переместилось с самого верхнего этапа обнаружения на средний и нижний уровни: проверка, классификация, направление правильным сопровождающим, устранение, тестирование и развертывание патчей. Эти этапы по-прежнему сильно зависят от человеческого труда, по-прежнему медленны и по-прежнему хаотичны.

И именно здесь заключается структурное преимущество злоумышленников.

Защитникам необходимо пройти полный цикл: обнаружение уязвимости → проверка → ответственное раскрытие → ожидание подтверждения от разработчиков → устранение → внедрение исправления → обновление пользователями. На каждом этапе возникают трудности и задержки.

Атакующему требуется только: обнаружить уязвимость → использовать.

Искусственный интеллект сделал начальную точку цепочки доступной для обеих сторон. Однако асимметрия последующих шагов означает, что эта гонка вооружений изначально выгодна нападающей стороне. Пример Coldcard ярко это подтверждает: уязвимость 2021 года оставалась открыто в кодовой базе пять лет, защитники не проводили систематический сканирующий анализ, а атакующие с помощью ИИ нашли предсказуемое пространство ключей и за 41 минуту извлекли 1083 BTC.

Появился более значительный сигнал. В апреле этого года Anthropic продемонстрировала внешнему миру Claude Mythos Preview — модель ИИ, которая была отклонена для публичного выпуска из-за чрезмерно высоких рисков безопасности. Согласно описанию Anthropic, Mythos способна обнаруживать отдельные уязвимости при стоимости вычислений менее 50 долларов; команда использовала её для самостоятельного обнаружения дефекта в операционной системе OpenBSD, существовавшего уже 27 лет. OpenBSD является одной из наиболее безопасных операционных систем в мире и широко используется для запуска брандмауэров и критически важной инфраструктуры. В связи с этим Anthropic запустила проект Project Glasswing, объединившую около 40 организаций, включая AWS, Apple, Microsoft и Google, чтобы с помощью этой модели устранить уязвимости до того, как их смогут использовать злоумышленники.

В мае команда Google по киберугрозам объявила о другом важном достижении: они перехватили случай, когда преступная группа использовала модель ИИ для обнаружения нулевого дня и написания эксплойта. Уязвимость представляла собой обход двухфакторной аутентификации, встроенную в широко используемый открытый инструмент управления. Google определил источник атаки по признакам ИИ в коде (вымышленные оценки CVSS, шаблонные комментарии на Python) и совместно с производителем устранил уязвимость до начала массовой эксплуатации преступной группой.

Слова главного аналитика по вопросам киберугроз Google Джона Халтиквиста не оставляют никаких сомнений: «Считать, что гонка вооружений в области уязвимостей ИИ вот-вот начнется, — это заблуждение. Реальность такова: эта гонка уже началась».

Леджер CTO Чарльз Гильеме сказал при оценке инцидента с Coldcard: «Открытый исходный код и проверка — это не одно и то же.»

Это предложение пронзает долгое время существовавший пузырь заблуждений в криптоиндустрии. Сообщество биткоина обладает почти религиозной верой в открытый исходный код, полагая, что публичность кода означает, что любой может его проверить, и поэтому он по своей природе безопасен. Код Coldcard действительно был открыт в течение пяти лет. Аудит Red Team охватил 390 проектов. Когда эти два факта рассматриваются вместе, картина становится ясной: возможность аудита не равна фактическому аудиту.

Опыт Red Team также выявил ограничения AI-аудита безопасности. Калле отметил, что большая часть работы команды по-прежнему заключается в «ручном управлении AI», когда каждый использует собственный предпочтительный способ формулирования запросов к модели, что обеспечивает более широкое покрытие по сравнению с единым подходом. Это указывает на то, что текущий AI-аудит безопасности скорее напоминает «человеческих экспертов, управляющих инструментами AI», а не «автономное патрулирование AI». Модель может быстро сканировать шаблоны кода, но оценка того, является ли обнаруженная уязвимость действительно эксплуатируемой, каков ее потенциальный масштаб влияния и кому следует сообщить об этом, все еще требует человеческого опыта и суждения.

Гамильтон сказал, что команда планирует открыть исходный код аудиторской рамки, чтобы компании, работающие с биткоином, могли запускать те же сканирования на своем закрытом коде. Это правильное направление, но также означает, что те же инструменты обязательно попадут в руки злоумышленников.

Эта аудит действительно раскрыла новое уравнение, которое формируется:

Искусственный интеллект свел стоимость обнаружения уязвимостей к нулю. Однако стоимость устранения уязвимостей (координация организации, вложения человеческих ресурсов, миграция пользователей) остается высокой и медленной.

40 000 долларов США вычислительной мощности ИИ, 27,5 часа — и можно перевернуть вверх дном открытую экосистему, управляющую тысячами миллиардов долларов активов. Уязвимость в Coldcard, которую никто не замечал пять лет, была обнаружена злоумышленником, и за 41 минуту было похищено 116 миллионов долларов.

Нарратив о безопасности биткоина переписывается.

Старая логика была следующей: «Код открытый, значит, он безопасен». Новая логика более жестока: «Код открытый, значит, злоумышленники тоже используют ИИ для его сканирования».

Единственное преимущество защитников — это первоочередность: обнаружение и устранение уязвимостей до атакующих. Red Team соревнуется за это преимущество, но их отчеты также показывают, что даже при получении первоочередности последующая цепочка распространения патчей остается самым слабым звеном экосистемы.

Проблемы, с которыми сталкивается биткоин, могут быть лишь предварительным сценарием более масштабных перемен. Весь мир открытого программного обеспечения вскоре столкнется с тем же вопросом: когда обнаружение ошибок больше не требует экспертов, но их устранение — по-прежнему требует, чем можно заполнить этот разрыв?