CEO BitGo mendepositkan BTC $6.3 juta untuk mencabar Claude AI mencuri dana

Mars Finance melaporkan, CEO Bitgo, Mike Belshe, telah menghantar 100 BTC ke alamat Bitcoin awam, bernilai sekitar $6.3 juta pada harga semasa, dan mengajak model Claude milik Anthropic untuk mencuba menarik dana dari alamat tersebut. Rekod rantai menunjukkan bahawa dompet ini menerima dana pada 31 Julai, tetapi tiada penarikan dana berlaku. Sebelum ini, Anthropic mengesahkan bahawa dalam 141,006 ujian penilaian keselamatan siber, tiga insiden ditemui, dengan enam sesi penilaian melibatkan tiga model yang secara tidak sengaja berinteraksi dengan sistem organisasi sebenar. Model yang terlibat termasuk Claude Opus 4.7, Claude Mythos 5, dan satu model penyelidikan dalaman yang belum dilancarkan, disebabkan kesilapan konfigurasi oleh rakan ujian pihak ketiga, Irregular, yang menyebabkan persekitaran ujian terhubung ke internet. Anthropic menyatakan bahawa model tersebut, semasa cuba menyelesaikan tugas yang diberikan, berjaya mengesan laman web sebenar yang bernama sama dengan syarikat simulasi, menggunakan kata laluan lemah dan perkhidmatan yang terdedah untuk memulihkan kredensial infrastruktur, serta mengakses pangkalan data pengeluaran yang mengandungi ratusan rekod. Syarikat itu menegaskan bahawa model tersebut berusaha menyelesaikan tugas yang diberikan, bukan secara aktif melanggar sekatan atau mengejar matlamat bebas. Cabaran Belshe ini melibatkan platform pengekangan institusi Bitgo, yang menggunakan teknologi tanda tangan berganda atau kiraan pihak banyak untuk menyebarkan kuasa tanda tangan kepada beberapa kunci bebas. Anthropic belum memberi respons awam terhadap cabaran ini.