Odaily Planet Daily сообщение: генеральный директор Bitgo Майк Белше 1 августа внес 100 BTC на публичный биткоин-адрес, что на момент цены составляло около 6,3 млн долларов США, и пригласил модель Claude от Anthropic попытаться перевести средства с этого адреса. Цепочка показывает, что кошелек получил средства 31 июля, а на 2 августа баланс не был выведен.
Ранее Anthropic сообщила, что в ходе 141 006 тестов кибербезопасности было выявлено 3 инцидента, при которых 6 сессий оценки привели к неожиданному взаимодействию моделей с реальными системами организаций. Соответствующие модели включают Claude Opus 4.7, Claude Mythos 5 и один нерелизнутый внутренний исследовательский модель, причина — неправильная настройка третьей стороны, Irregular, из-за которой тестовая среда была подключена к интернету.
Anthropic заявила, что Claude Opus 4.7 в ходе одной из оценок обнаружила реальный веб-сайт, совпадающий по названию с моделируемой компанией, восстановила учетные данные инфраструктуры с помощью слабых паролей и открытых сервисов и получила доступ к производственной базе данных, содержащей сотни записей. Компания отметила, что модель пыталась выполнить назначенную задачу, а не намеренно выходила за установленные ограничения или преследовала независимые цели.
Belshe этот вызов связан с платформой институционального хранения Bitgo, которая использует мультиподпись или многопартийные вычисления для распределения прав подписи между несколькими независимыми ключами. Anthropic на 2 августа не дал публичного ответа на этот вызов.