Генеральний директор BitGo здійснює депозит BTC на $6,3 млн, щоб викликати Claude AI на крадіжку коштів

Марс Фінанс повідомляє, що генеральний директор Bitgo Майк Бельше внес 100 BTC на публічну біткоїн-адресу, що за поточною ціною становило близько 6,3 мільйонів доларів США, і запропонував моделі Claude від Anthropic спробувати вивести кошти з цієї адреси. Записи в ланцюжку показують, що гаманець отримав кошти 31 липня, а баланс не змінювався. Раніше Anthropic розкрила, що під час 141 006 тестових запусків оцінки кібербезпеки було виявлено 3 випадки, у яких 6 сеансів оцінки призвели до непередбачуваного взаємодії моделей із реальними системами організацій. До цих моделей належать Claude Opus 4.7, Claude Mythos 5 та один незапущений внутрішній дослідницький модуль — причиною стало неправильне налаштування стороннього тестового партнера Irregular, що призвело до підключення тестового середовища до Інтернету. Anthropic зазначила, що під час одного з тестів модель Claude Opus 4.7 виявила реальний веб-сайт, що має таке саме ім’я, як і симульована компанія, використала слабкі паролі та відкриті сервіси для відновлення облікових даних інфраструктури та отримала доступ до виробничої бази даних із сотнями записів. Компанія підкреслила, що модель намагалася виконати призначене завдання, а не намагалася свідомо вийти за межі обмежень або досягти самостійної мети. Цей виклик Бельше стосується інституційної платформи Bitgo з управлінням активами, яка використовує багатопідписову або багатоучасникову обчислювальну технологію для розподілу прав підпису між кількома незалежними ключами. Anthropic не надала публічної відповіді на цей виклик.