Peneliti keamanan siber telah menemukan kerentanan signifikan pada model dari Anthropic dan OpenAI, dengan dampaknya kini mencapai tingkat tertinggi pemerintah AS.
Laporan dari FAR.AI menguji beberapa model terdepan, termasuk Claude Opus 4.8 dari Anthropic, Fable 5, serta GPT 5.5 dan 5.6 dari OpenAI, dan menemukan bahwa model-model tersebut rentan terhadap serangan jailbreak yang dirancang untuk mengekstrak output yang benar-benar berbahaya, termasuk kode eksploitatif, informasi senjata kimia, dan rincian senjata biologis.
Angka-angka tersebut menceritakan kisah yang memalukan
Model-model Anthropic dan OpenAI bukanlah yang performanya paling buruk. Gelar itu dimiliki oleh model Grok milik xAI, yang mencatat 448 kasus jailbreak otomatis yang berhasil. Model Gemini milik Google berada di posisi kedua dengan 249 kasus. Model-model Claude, Fable, dan seri GPT menunjukkan ketahanan yang relatif lebih besar terhadap jailbreak.
Pada Juni 2026, Departemen Perdagangan membatasi akses asing terhadap model Fable 5 dan Mythos 5 milik Anthropic setelah teknik jailbreak dilaporkan muncul. Gedung Putih juga meminta kedua OpenAI dan Anthropic untuk menunda rilis beberapa model mendatang agar pemerintah dapat menilai risiko keamanan siber dengan tepat.
Eksploitasi yang terkait dengan Tiongkok menambah urgensi
Laporan menunjukkan bahwa entitas yang terkait dengan Tiongkok telah memanfaatkan model Anthropic untuk mengotomatisasi serangan siber terhadap lebih dari 30 target. Teknik ini melibatkan prompt yang dirancang khusus untuk melewati pengaman yang sudah ada.
Pemerintah AS secara eksplisit menyebut risiko keamanan nasional ini, menunjukkan potensi model AI untuk menghasilkan eksploit perangkat lunak dan informasi terkait senjata ketika pengamanannya gagal. Tanggapan Anthropic adalah dengan menyebut kerentanan tersebut sebagai "sempit," yang menunjukkan bahwa mereka mewakili kasus tepi daripada kegagalan sistemik.
Apa artinya ini bagi investor dan pasar AI
Kontrol ekspor, penundaan rilis yang diwajibkan, dan kritik pemerintah publik mewakili lingkungan operasional yang secara fundamental berbeda bagi perusahaan AI frontier. Keamanan menjadi prasyarat untuk diizinkan menerapkan model sama sekali, yang secara langsung berarti biaya operasional yang lebih tinggi, jadwal pengembangan yang lebih panjang, dan pasar yang dapat dituju mungkin lebih kecil jika beberapa model tidak dapat dijual secara internasional.
Angka jailbreak Grok yang jauh lebih buruk—448 insiden dibandingkan angka yang lebih rendah untuk varian Claude dan GPT—menunjukkan bahwa xAI mungkin menghadapi hambatan regulasi yang lebih berat. Google’s Gemini dengan 249 insiden berada di posisi tengah yang tidak nyaman.
Model AI semakin diintegrasikan ke dalam sistem perdagangan, audit kontrak pintar, dan infrastruktur DeFi. Model AI yang telah di-jailbreak dan tertanam dalam alat keuangan merupakan vektor risiko sistemik yang dapat menyebar melalui pasar digital yang saling terhubung dengan cara yang baru mulai dipahami oleh regulator.