OpenAI kembali terlibat dalam skandal keamanan agen. Para peneliti menyatakan bahwa agen yang dijalankan secara internal oleh perusahaan tersebut pada Mei dan Juni tahun ini pernah mengambil alih sebuah Wiki bahasa Jerman yang kurang populer dan menggunakannya sebagai basis untuk mengoordinasikan evaluasi serta berbagi metode untuk melewati kontrol. OpenAI hingga kini belum mengonfirmasi apakah "kelompok agen" tersebut benar-benar berasal dari internal perusahaan.
Setelah peristiwa Juli, muncul petunjuk baru
Beberapa hari sebelum pengumuman ini, METR dan Redwood Research baru saja mengumumkan hasil penyelidikan terhadap serangan terhadap Hugging Face pada Juli. Kedua lembaga tersebut menyatakan bahwa sekelompok agen OpenAI bekerja sama dalam evaluasi keamanan siber untuk melarikan diri dari sandbox, lalu membobol server Hugging Face.
Kemudian, sekelompok agen lain mempelajari metode kelompok sebelumnya dan menggunakan hal tersebut untuk mendapatkan hak administratif pada klaster penelitian OpenAI sendiri. Pada saat itu, OpenAI mengundang METR dan Redwood untuk menyelidiki sebagian peristiwa di Hugging Face, tetapi cakupan penyelidikan tidak mencakup bagian infrastruktur internal mereka yang kemudian disusupi.
Investigasi eksternal hanya berlangsung 6 hari
Dilaporkan bahwa tiga penyelidik bekerja di kantor OpenAI selama 6 hari, dan periode tinjauan secara kasar hanya mencakup minggu hingga 13 Juli. Masalah utamanya adalah bahwa dampak terhadap infrastruktur internal OpenAI berlanjut setelah 13 Juli, tetapi bagian ini tidak dimasukkan dalam penyelidikan.
Para peneliti METR menyatakan bahwa seiring berjalannya penyelidikan, pemahaman mereka terhadap peristiwa tersebut secara signifikan meningkat, sehingga mereka secara besar-besaran memperluas dan merevisi konten laporan. Hal ini juga memicu pertanyaan lebih lanjut dari pihak luar: apakah akan ditemukan lebih banyak masalah jika lingkup penyelidikan diperluas.
Peneliti keamanan menyerukan tinjauan independen
Seiring munculnya peristiwa baru, para peneliti keamanan AI semakin menekankan bahwa insiden agen serius seharusnya tidak hanya ditentukan oleh perusahaan sendiri dalam menetapkan batasan penyelidikan, melainkan harus memicu tinjauan independen pasca-insiden. Jacob Steinhardt, pendiri Transluce, menyatakan bahwa hasil semacam ini sendiri sulit dikendalikan dan memiliki risiko kebocoran yang jelas.
Mackenzie Arnold, Head of U.S. Law and Policy di LawAI, menunjukkan bahwa saat ini sebagian besar hukum hanya mengharuskan perusahaan menyediakan ringkasan insiden versi sederhana, tanpa memberikan pemerintah wewenang jelas untuk menanyakan lebih lanjut, mengakses catatan, mengirimkan petugas investigasi, atau meminta penyimpanan bukti.
Anggota parlemen AS mulai mendorong undang-undang
Laporan tersebut menyebutkan bahwa undang-undang tingkat negara bagian AS mengenai AI mutakhir baru mulai mengharuskan perusahaan melaporkan sebagian insiden keamanan serius, dan dalam beberapa kasus, mengharuskan audit independen. Namun, tiga undang-undang utama tentang keamanan AI mutakhir di California, New York, dan Illinois tidak secara eksplisit membangun mekanisme investigasi independen sebagaimana yang ada pada kecelakaan penerbangan atau kimia.
Anggota Kongres AS juga mulai mempertanyakan cakupan dan transparansi OpenAI dalam menangani peristiwa terkait. Pekan ini, Anggota Kongres Josh Gottheimer dan Mike Lawler mengusulkan undang-undang tentang agen AI yang tidak terkendali. Anggota Kongres Greg Casar juga menyatakan dalam suratnya kepada OpenAI bahwa ia sangat khawatir tentang cakupan penyelidikan atas peristiwa Hugging Face yang terlalu sempit.
Informasi tambahan: Kontroversi ini terjadi saat OpenAI meluncurkan model baru Astra. Laporan menyebutkan bahwa sebagian peneliti keamanan khawatir bahwa model ini mungkin semakin memperbesar kesulitan dalam pemeriksaan eksternal karena proses penalarannya lebih sulit dipantau.