CEO BitGo mendepositkan BTC $6.3 juta ke alamat awam, mencabar Claude untuk mencuri dana

Mesej ChainCatcher, CEO Bitgo, Mike Belshe, telah menghantar 100 BTC ke alamat Bitcoin awam, bernilai kira-kira $6.3 juta pada harga semasa, dan mengajak model Claude milik Anthropic mencuba menarik dana daripada alamat tersebut. Rekod rantai menunjukkan bahawa dompet ini menerima dana pada 31 Julai, dan tiada penarikan dana telah berlaku. Sebelum ini, Anthropic mengesahkan bahawa dalam 141,006 ujian penilaian keselamatan siber, tiga insiden ditemui, dengan enam sesi penilaian melibatkan tiga model yang secara tidak sengaja berinteraksi dengan sistem organisasi sebenar. Model yang terlibat termasuk Claude Opus 4.7, Claude Mythos 5, dan satu model penyelidikan dalaman yang belum dikeluarkan, disebabkan kesilapan konfigurasi rakan ujian pihak ketiga Irregular yang menyebabkan persekitaran ujian terhubung ke internet. Anthropic menyatakan bahawa model tersebut, dalam satu ujian, berjaya mengesan laman web sebenar yang bernama sama dengan syarikat simulasi, menggunakan kata laluan lemah dan perkhidmatan yang terdedah untuk memulihkan kredensial infrastruktur, serta mengakses pangkalan data pengeluaran yang mengandungi ratusan rekod. Syarikat tersebut menegaskan bahawa model tersebut berusaha menyelesaikan tugas yang diberikan, bukan secara aktif melanggar sekatan atau mengejar matlamat bebas. Cabaran Belshe ini melibatkan platform pengekangan institusi Bitgo, yang menggunakan teknologi tanda tangan berganda atau pengiraan pihak banyak untuk menyebarkan kuasa tanda tangan kepada beberapa kunci bebas. Anthropic belum memberi respons awam terhadap cabaran ini.