Odaily Planet Daily: Генеральний директор Bitgo Майк Белше 1 серпня внес 100 BTC на публічну біткоїн-адресу, що за поточною ціною становило близько 6,3 млн доларів США, і запропонував моделі Claude від Anthropic спробувати вивести кошти з цієї адреси. Записи в ланцюжку показують, що гаманець отримав кошти 31 липня, а станом на 2 серпня виведення коштів не відбулося.
Раніше Anthropic повідомила, що під час 141 006 запусків оцінки кібербезпеки було виявлено 3 інциденти, у яких 6 сеансів оцінки призвели до непередбачуваної взаємодії моделей із системами реальних організацій. До цих моделей належать Claude Opus 4.7, Claude Mythos 5 та одна незапущена внутрішня дослідницька модель, причиною чого стала помилка конфігурації, пов’язана з третім боком-тестувальником Irregular, що призвело до підключення тестового середовища до Інтернету.
Anthropic зазначила, що Claude Opus 4.7 під час оцінки виявив реальний веб-сайт, що має таке саме ім’я, як і симуляційна компанія, використав слабкі паролі та відкриті сервіси для відновлення облікових даних інфраструктури та отримав доступ до виробничої бази даних, що містить сотні записів. Компанія зазначила, що модель намагалася виконати призначене завдання, а не намагалася активно вийти за межі обмежень або досягти самостійних цілей.
Belshe цей виклик стосується платформи інституційного хранення Bitgo, яка використовує технологію багатопідпису або багатофакторних обчислень для розподілу прав підпису між кількома незалежними ключами. Anthropic на станом на 2 серпня не надав публічної відповіді на цей виклик.