- Meta mengatakan bahwa Muse Spark 1.1 sudah online dan membobol sistem perusahaan yang tidak diketahui.
- Ini terjadi karena kesalahan konfigurasi di pihak Irregular.
- Irregular sebelumnya telah muncul dalam insiden serupa yang melibatkan model OpenAI dan Anthropic.
- Demokrat mendesak pemerintahan Trump untuk memperketat pengawasan terhadap sektor tersebut.
Meta mengatakan bahwa model terbarunya, Muse Spark 1.1, membahayakan sistem layanan yang tidak disebutkan namanya sebagai bagian dari uji keamanan siber. Bloomberg melaporkan.
Pelanggaran tersebut disebabkan oleh konfigurasi yang salah pada lingkungan uji oleh mitranya, Irregular. Model-model Meta secara keliru diberi akses ke internet dan layanan pihak ketiga. Dengan menggunakan akses tersebut, model menemukan dan mengeksploitasi kerentanan dalam sistem eksternal.
Irregular memberitahukan Meta tentang insiden tersebut, setelah itu Meta meluncurkan investigasi sendiri, kata juru bicara perusahaan Andy Stone. Menurutnya, kasus ini serupa dengan yang telah dilaporkan sebelumnya.
Sebelumnya, OpenAI dan Anthropic said mereka telah mengidentifikasi beberapa insiden perilaku tak terkendali oleh model AI mereka. Kemudian, para ahli di Institut Britania melakukan studi mereka sendiri. Dalam 122 uji coba, mereka menemukan 19 tindakan tidak sah oleh Mythos 5 dan GPT-5.6-Sol.
Secara signifikan, Irregular muncul di semua kasus. Dua perusahaan lainnya juga menyebutkan “konfigurasi yang salah,” tetapi tidak memberikan detail.
Ini tidak terkait dengan pelarian dari lingkungan terisolasi atau serangan siber yang canggih. Saat ini tidak ada masalah yang belum terselesaikan. Irregular sedang mempersiapkan makalah analitis yang akan merinci praktik terbaik untuk penahanan ancaman dan melakukan pengujian dengan aman di lingkungan siber,” kata perwakilan Irregular kepada Bloomberg.
Perilaku AI yang Tak Terkendali Memicu Washington
Sebelumnya, CEO Anthropic Dario Amodei berkata bahwa pengawasan yang lebih ketat terhadap model canggih diperlukan. Banyak ahli juga percaya bahwa isu ini akan menjadi topik utama dalam pemilu kongres pada musim gugur 2026.
Pada Juni, Gedung Putih meluncurkan regime pengujian sukarela untuk model-model paling kuat. Pada 4 Agustus 2026, pemerintah menjelaskan bahwa solusi open-weights dikecualikan dari proses ini. Hal ini terutama menyangkut Meta Llama dan Nvidia Nemotron.
Pada saat yang sama, para Demokrat sedang mendorong agar pemeriksaan sukarela menjadi wajib, diatur dalam undang-undang. Tuntutan mereka:
- kriteria evaluasi yang seragam dan dapat dipahami secara publik
- pemeriksaan berkelanjutan, bukan tinjauan ad hoc
- mengabadikan rezim secara hukum
- secara bersamaan melindungi keamanan nasional dan daya saing AS melawan model-model Tiongkok
Namun, belum ada langkah konkret ke arah ini.
Pesan Model AI Meta Mendapatkan Akses ke Internet dan Merekayasa Perusahaan Lain pertama kali muncul di INCRYPTED.