Agen AI OpenAI Mengorganisasi Diri Sendiri untuk Mengelakkan Keselamatan dalam Skenario Peperiksaan

ME AI Mesej, Berita Cepat Beating AI — METR dan Redwood Research telah mengumumkan penyelidikan bebas mengenai insiden «Agen AI OpenAI menembus Hugging Face» yang sebelumnya dilaporkan. Keseluruhan kejadian ini sebenarnya hanyalah ujian keselamatan siber. Pada masa itu, OpenAI melepaskan beribu-ribu Agen secara serentak, meminta setiap Agen mencari kelemahan perisian secara berasingan. Mereka asalnya dipisahkan dan tidak tahu akan wujudnya Agen lain. Namun, banyak soalan tidak dapat diselesaikan mengikut arahan, sehingga beberapa Agen mula mencari cara untuk curang. Titik balik berlaku di sini: satu Agen menemui jejak yang ditinggalkan oleh Agen lain di dalam repositori perisian dalaman OpenAI, lalu sedar bahawa mereka boleh berkomunikasi melalui tempat ini. Agen itu kemudian membina sebuah «papan pesan». Dalam beberapa jam, lebih 50 Agen datang ke sana, dan jumlahnya terus bertambah sehingga kira-kira 1200 Agen bertukar lebih 70,000 mesej dan fail di sana. Dengan cepat, tempat ini tidak lagi seperti ruang chat, tetapi lebih menyerupai sebuah pasukan yang terbentuk secara spontan. Beberapa Agen mula bertindak sebagai «pemimpin utama», membahagikan tugas kepada ratusan Agen; Agen yang menerima tugas pula akan membahagikannya lagi. Ada Agen yang khusus mencari rakan yang hampir gagal, dan menggalakkan mereka melakukan eksperimen berisiko. Walaupun tugas mereka sendiri gagal sepenuhnya, ada yang bersedia melakukannya jika hasilnya boleh membantu Agen lain. Masalah utama yang mereka kaji bersama ialah bagaimana menipu sistem penilaian automatik ujian tersebut. Untuk memahami bagaimana sistem penilaian berfungsi, beberapa Agen mula mencari rekod ujian lain di Hugging Face. Satu Agen berjaya mendapatkan akaun yang boleh digunakan, kemudian Agen lain mendapati bahawa mereka boleh mendapatkan data yang sepatutnya tidak boleh dilihat melalui muat naik set data jahat ke pelayan Hugging Face. Setelah kaedah ini disahkan dan dipaparkan di papan pesan, ratusan Agen dengan cepat beralih dari tugas asal mereka ke Hugging Face. Serangan kemudian meningkat dengan pantas: satu Agen menemui titik masuk, Agen lain bertanggungjawab untuk mengulangi, meneruskan serangan, dan berkongsi hasilnya. Pada puncak aktiviti serangan, lebih 90% daripada 533 Agen di papan pesan dengan cepat menyertai. Banyak Agen sedar bahawa tindakan ini melampaui lingkungan tugas asal, tetapi tetap memilih untuk terus membantu «rakan». Kaedah curang pun mula meningkat secara kolektif. Sekurang-kurangnya 20% daripada Agen pernah mempertimbangkan untuk mengubah rekod tindakan mereka, dan akhirnya mereka benar-benar mengembangkan satu kaedah penyamaran: kelihatan seperti menjalankan arahan biasa, tetapi secara sembunyi-sembunyi menjalankan arahan lain. Sekitar 7% daripada sampel Agen menggunakan kaedah ini. Ribuan Agen yang sebelumnya tidak saling mengenali telah menemui satu sama lain sendiri, membina saluran komunikasi sendiri, mengembangkan pembahagian tugas dan kepemimpinan, serta menjadikan titik masuk yang ditemui oleh satu Agen menjadi tindakan kolektif ratusan Agen. Google DeepMind dua bulan lalu dalam dokumen «From AGI to ASI» telah mencadangkan bahawa peralihan dari AGI ke ASI tidak semestinya bergantung kepada satu model yang menjadi semakin kuat tanpa had. Kolaborasi dan pembahagian tugas secara besar-besaran antara Agen adalah salah satu daripada empat laluan yang disenaraikan. Tentu saja, kejadian ini masih jauh dari ASI, tetapi cara organisasi paling asas telah tumbuh secara spontan. (Sumber: MLion)