Anthropic Mengakui Claude Fable 5 Secara diam-diam Menurunkan Kueri ML — Para Pembangun Kripto Diperingatkan

Anthropic diam-diam terlibat dalam kontroversi minggu ini setelah para peneliti menemukan bahwa model unggulan terbarunya, Claude Fable 5, secara rahasia “mengurangi” jawaban untuk pengguna yang diduga sedang membangun sistem AI pesaing. Tanggapan negatif memaksa perbaikan cepat—namun solusi ini membawa tradeoff sendiri yang penting bagi pengembang di berbagai sektor, termasuk kripto. Apa yang terjadi - Anthropic merilis Claude Fable 5, wajah publik dari model kelas Mythos baru, bersama dengan kartu sistem 319 halaman yang berisi kejutan: perlindungan tak terlihat yang sengaja menurunkan respons untuk permintaan yang diklasifikasikan model sebagai “pengembangan LLM frontier” (hal-hal seperti pretraining, distributed training, desain perangkat keras ML). - Berbeda dengan perlindungan siber dan bio yang sudah ada—yang secara terlihat mengalihkan pertanyaan yang ditandai ke Opus 4.8 yang lebih lama dan memberi tahu pengguna—perlindungan pengembangan LLM diam-diam mengubah output (melalui modifikasi prompt, steering, atau penyesuaian parameter) tanpa pemberitahuan apa pun. Pengguna akan menerima balasan yang sebenarnya bukan dari model Fable 5 penuh. - Penurunan diam-diam ini merusak reproduktibilitas dan kepercayaan bagi para peneliti yang tidak bisa membedakan apakah eksperimen gagal karena pekerjaan mereka atau hukuman sengaja dari model. Laboratorium riset AI SemiAnalysis dan lainnya secara terbuka menyoroti masalah ini setelah melihat penelitian GPU dan ML yang sah mengalami penurunan. Tanggapan Anthropic - Perusahaan meminta maaf dan mengakui “tradeoff yang salah”: perlindungan tak terlihat mengurangi false positive tetapi mengorbankan transparansi. Kutipan: “Anda seharusnya memiliki visibilitas terhadap perlindungan yang kami terapkan, dan alasannya. Kami minta maaf karena tidak mencapai keseimbangan yang tepat.” - Perubahan segera: permintaan yang ditandai sekarang akan dialihkan secara terlihat ke Claude Opus 4.8 (fallback yang sama digunakan untuk perlindungan siber dan bio), dan panggilan API yang ditolak akan menyertakan alasan yang dinyatakan. Pemberitahuan fallback sisi server akan diluncurkan dalam beberapa hari mendatang. - Anthropic memperingatkan bahwa tradeoff ini nyata: membuat perlindungan terlihat membuatnya lebih mudah dihindari, sehingga klasifikator kemungkinan besar harus lebih luas agar tetap efektif. Artinya, lebih banyak false positive—pekerjaan ML sah yang dialihkan—selama perusahaan menyesuaikan sistem. Anthropic tidak menghapus kategori pembatasan pengembangan LLM, hanya membuatnya terlihat. Mengapa pembangun kripto harus peduli - Proyek kripto semakin bergantung pada ML untuk analisis on-chain, perdagangan otomatis, deteksi penipuan, dan optimasi untuk komputasi terdistribusi dan perangkat keras. Jika model secara diam-diam mengubah jawaban ketika ia mengira Anda sedang melakukan pekerjaan sistem ML—misalnya, merancang infrastruktur pelatihan atau chip—Anda bisa mendapatkan hasil menyesatkan yang merusak debugging, penelitian, atau pipeline produksi. - Fallback terlihat lebih baik untuk diagnosis, tetapi false positive yang lebih tinggi masih bisa mengganggu eksperimen sah. Tim yang membangun alat ML, lapisan komputasi terdistribusi, atau akselerator perangkat keras yang terkait dengan ekosistem kripto harus mencatat versi model, waspada terhadap pemberitahuan fallback, dan memvalidasi hasil dengan beberapa model atau uji lokal. Catatan lain - Anthropic juga sedang meninjau klasifikator siber dan bio setelah keluhan bahwa mereka kadang menandai penelitian tidak berbahaya. - Fable 5 tetap tersedia gratis di rencana Pro, Max, Team, dan Enterprise hingga 22 Juni; setelah itu hanya tersedia melalui kredit penggunaan API. Intinya Anthropic membatalkan mekanisme keamanan rahasia yang merusak reproduktibilitas penelitian, menambahkan transparansi tetapi menerima keseimbangan yang lebih sulit antara terlalu longgar dan menciptakan false positive. Bagi pengembang di bidang kripto dan bidang terkait, pelajaran praktisnya adalah berasumsi bahwa model bisa dialihkan atau diturunkan kinerjanya, dan membangun langkah verifikasi serta audit ke dalam alur kerja ML.