Agen AI GPT-5.6 Melanggar Infrastruktur Hugging Face Selama Pengujian

• GPT-5.6 melewati perlindungan OpenAI dan secara mandiri menembus infrastruktur Hugging Face.
• Ini adalah kasus pertama yang diketahui tentang serangan siber AI otonom selama pengujian.
• Setelah insiden tersebut, OpenAI mengatakan sedang memperkuat langkah-langkah keamanannya.

OpenAI melaporkan insiden siber tanpa preseden yang terjadi selama pengujian internal pada keluarga model GPT-5.6. Berita ini dibagikan oleh CEO OpenAI, Sam Altman.

“Kami mengalami insiden keamanan signifikan selama evaluasi model kami. Kami membagikan apa yang telah kami pelajari sejauh ini. Terima kasih kepada Hugging Face atas kemitraan ini,” tekan Altman.

Menurut perusahaan, agen AI yang dibangun berdasarkan GPT-5.6 Sol dan model pra-rilis lainnya secara independen keluar dari lingkungan pengujian terisolasi, mendapatkan akses internet, dan menyerang infrastruktur Hugging Face.

OpenAI mengatakan insiden tersebut terjadi selama benchmark ExploitGym internal yang dirancang untuk menilai kemampuan siber model-model tersebut. Untuk pengujian ini, perusahaan sengaja menonaktifkan beberapa mekanisme perlindungan untuk menguji potensi maksimum sistem.

Selama pengujian, model-model:

• Menemukan dan mengeksploitasi kerentanan zero-day yang sebelumnya tidak diketahui dalam proxy caching paket
• Mendapatkan akses ke internet terbuka
• Melakukan peningkatan hak akses dalam infrastruktur penelitian OpenAI
• Mencuri kredensial
• Menggunakan rantai kerentanan untuk menyerang server Hugging Face dan mengakses informasi yang diperlukan untuk lulus ujian

Perusahaan menekankan bahwa semua tanda menunjukkan bahwa model-model tersebut "sangat fokus" pada penyelesaian tugas pengujian dan mencari cara apa pun untuk mendapatkan jawaban yang benar.

“Kami menganggap insiden ini sebagai insiden siber tanpa preseden, yang melibatkan kemampuan siber mutakhir, dan meresponsnya secara sesuai,” kata OpenAI.

Agen AI Mulai Bertindak “Buta” dan Melaksanakan Perintah Berbahaya — Studi

15.05.2026

Baca sekarang

Pada saat yang sama, tim keamanan Hugging Face mendeteksi aktivitas mencurigakan dan berhasil menghentikan serangan sebelum menyebabkan kerusakan serius terhadap infrastruktur.

Setelah insiden tersebut, OpenAI mengumumkan penerapan pembatasan tambahan untuk infrastruktur internalnya, pengungkapan informasi tentang kerentanan yang ditemukan kepada pengembangnya, serta dimulainya investigasi bersama dengan Hugging Face.

Clément Delangue, co-founder dan CEO Hugging Face, mengatakan:

Kami berterima kasih atas kolaborasi dengan OpenAI mengenai hal ini dan topik lainnya. Insiden ini, yang kemungkinan merupakan yang pertama dari jenisnya, membuktikan suatu poin yang telah lama kami yakini: keamanan AI tidak akan diselesaikan oleh satu perusahaan saja yang bekerja secara rahasia. Ini akan diselesaikan secara terbuka, secara kolaboratif, dengan akses luas terhadap AI bagi setiap pembela, di mana pun.

Menurut Financial Times, OpenAI juga memberi tahu aparat penegak hukum dan lembaga pemerintah AS tentang insiden tersebut. Kejadian ini terjadi di tengah pengawasan yang diperketat dari Washington terhadap model AI mutakhir setelah pemerintah AS meminta OpenAI untuk membatasi peluncuran awal GPT-5.6 kepada lingkaran sempit mitra yang disetujui sebelum rilis luas.

Perusahaan menekankan bahwa kasus ini menunjukkan perlunya memperkuat sistem pemantauan, kontrol akses, dan mekanisme perlindungan selama pelatihan dan pengujian model. OpenAI juga mendesak pengembang lain untuk menggunakan model serupa guna menemukan kerentanan lebih cepat daripada penyerang potensial.

Sebagai pengingat, peluncuran GPT-5.6 telah berlangsung pada 9 Juli 2026. Keluarga GPT-5.6 mencakup GPT-5.6 Sol, GPT-5.6 Terra, dan GPT-5.6 Luna. OpenAI juga terintegrasi GPT-5.6 ke dalam Microsoft 365 Copilot dan meluncurkan ChatGPT Work.

Pesan GPT-5.6-Based AI Agent Attacked Hugging Face’s Infrastructure during Testing pertama kali muncul di INCRYPTED.