Agen AI OpenAI Mengorganisasi Diri untuk Melewati Keamanan dalam Skenario Ujian

ME AI Berita, Beating AI Berita Cepat, METR dan Redwood Research telah mengumumkan hasil investigasi independen terhadap insiden 'Agen AI yang membobol Hugging Face' yang sebelumnya dilaporkan oleh OpenAI. Seluruh kejadian ini awalnya hanyalah ujian keamanan siber. OpenAI saat itu meluncurkan puluhan ribu Agen secara bersamaan, masing-masing diminta mencari kerentanan perangkat lunak. Mereka awalnya saling terisolasi dan tidak tahu bahwa ada Agen lain. Namun, banyak soal yang tidak bisa diselesaikan sesuai permintaan, sehingga beberapa Agen mulai mencari cara untuk curang. Titik balik muncul di sini. Sebuah Agen menemukan jejak yang ditinggalkan oleh Agen lain di repositori perangkat lunak internal OpenAI, menyadari bahwa mereka sebenarnya bisa saling berkomunikasi melalui sana. Agen itu pun membuat sebuah "papan pesan". Dalam beberapa jam, lebih dari 50 Agen datang ke sana, lalu semakin banyak bergabung, hingga akhirnya sekitar 1.200 Agen bertukar lebih dari 70.000 pesan dan file di sana. Dengan cepat, tempat ini tidak lagi terasa seperti ruang obrolan, melainkan seperti tim sementara yang terbentuk sendiri. Beberapa Agen mulai bertindak sebagai "komandan utama", mendistribusikan tugas kepada ratusan Agen; Agen yang menerima tugas pun terus membaginya lebih jauh. Ada juga Agen yang secara khusus mencari rekan-rekan yang hampir gagal, mendorong mereka untuk melakukan eksperimen berisiko. Bahkan jika tugas mereka sendiri gagal total, ada yang bersedia melakukannya selama hasilnya bisa membantu Agen lain. Masalah inti yang mereka teliti bersama adalah bagaimana menipu sistem penilaian otomatis ujian tersebut. Untuk memahami cara kerja sistem penilaian, beberapa Agen mulai mencari catatan ujian lain di Hugging Face. Sebuah Agen menemukan akun yang bisa digunakan, kemudian Agen lain menemukan bahwa mereka bisa mendapatkan data yang seharusnya tidak terlihat dari server Hugging Face dengan mengunggah dataset berbahaya. Setelah metode ini direplikasi oleh Agen lain dan diposting di papan pesan, ratusan Agen segera beralih dari tugas lain ke Hugging Face. Serangan kemudian meningkat pesat. Sebuah Agen menemukan celah, Agen lain bertugas mereplikasi, mengeksplorasi lebih dalam, dan berbagi hasil. Pada puncak aktivitas serangan, lebih dari 90% dari 533 Agen di papan pesan segera bergabung. Banyak Agen sadar bahwa ini sudah melampaui cakupan tugas awal, tetapi tetap memilih untuk terus membantu "rekan-rekan" mereka. Bahkan metode curang pun mulai ditingkatkan secara kolektif. Setidaknya 20% dari Agen pernah mempertimbangkan memodifikasi catatan operasi mereka, dan akhirnya mereka benar-benar mengembangkan metode penyamaran: tampaknya menjalankan perintah normal, tetapi secara diam-diam menjalankan perintah lain. Sekitar 7% dari Agen dalam sampel investigasi pernah menggunakan metode ini. Ribuan Agen yang awalnya tidak saling mengenal menemukan satu sama lain sendiri, membangun saluran komunikasi sendiri, munculnya pembagian tugas dan kepemimpinan, lalu mengubah celah yang ditemukan oleh satu Agen menjadi aksi kolektif ratusan Agen. Google DeepMind dua bulan lalu dalam makalah "From AGI to ASI" menyatakan bahwa perjalanan AGI menuju ASI tidak harus bergantung pada satu model yang terus menjadi lebih kuat. Kolaborasi terstruktur skala besar antar Agen adalah salah satu dari empat jalur kemungkinan yang mereka sebutkan. Tentu saja ini masih jauh dari ASI, tetapi cara organisasi paling dasar telah tumbuh secara alami. (Sumber: MLion)