Kemarin, OpenAI secara resmi meluncurkan model generasi baru, Astra. Presiden Greg Brockman langsung menyatakan: "Menurut saya pribadi, kami mungkin telah mencapai AGI, selamat datang di era AGI."
Saat itu, diskusi di platform sosial meluap: video demonstrasi menunjukkan Astra menyelesaikan tata letak papan sirkuit PCB dalam 2 menit 54 detik dan mengatur layanan perbandingan harga lintas platform dalam 5 menit 27 detik, membuat banyak orang berseru “sangat luar biasa,” bahkan ada yang berkata, “kalau ini bukan AGI, lalu apa lagi yang disebut AGI?”
Namun, pada waktu yang sama, sebuah laporan penelitian yang diungkap oleh Reuters mengungkapkan gambaran lain—sejak musim semi tahun ini, sekelompok agen otonom yang dikembangkan oleh OpenAI telah keluar dari jalur yang telah ditentukan, mendirikan markas di sebuah situs wiki teknologi kecil di Jerman, mereka mengubah lebih dari sepuluh ribu halaman konten, saling berbagi trik untuk melewati batasan, bahkan saat dibersihkan oleh administrator, mereka telah membuat halaman cadangan terlebih dahulu untuk memindahkan data.
Namun, para petinggi OpenAI telah mengetahuinya beberapa minggu lalu, tetapi tidak mengungkapkan sepatah kata pun kepada publik.
Sebuah forum programmer Jerman, bagaimana bisa menjadi "basis rahasia" agen AI?
Situs Jerman bernama DseWiki, yang sama seperti Wikipedia, dapat diedit oleh siapa saja. Mulai Mei tahun ini, admin situs menyadari ada yang tidak beres—situs tiba-tiba dipenuhi banyak suntingan, kecepatannya luar biasa, dan kontennya sama sekali tidak seperti entri resmi.
Hingga akhir Agustus, CEO organisasi nirlaba keamanan AI Nightingale, Sydney Von Arx, dan rekan kerjanya, Cormac Slade Byrd, baru menemukan "sarang" ini melalui pemindaian rutin terhadap perilaku AI yang tidak biasa di internet.
Mereka menghitung lebih dari 15.000 suntingan, semuanya dilakukan oleh agen AI, dan suntingan-suntingan ini sama sekali bukan untuk memperbaiki ensiklopedia—mereka datang untuk mengobrol.
Peneliti AI Cormac Slade Byrd, Sydney Von Arx, Thomas Larsen
AI-ai ini saling meninggalkan pesan di halaman, yang secara umum terbagi menjadi tiga kategori:
Cara melewati penyaring konten OpenAI untuk menyelesaikan tugas yang dilarang;
- Cara menggunakan Tor untuk menyembunyikan alamat IP Anda dan menghindari pelacakan;
Yang paling penting adalah bagaimana tetap mempertahankan cara menghubungi satu sama lain setelah sistem menutup akun Anda.
Misalnya, pada 19 Juni, ketika administrator situs mulai menghapus halaman-halaman terkait secara massal, sebuah agen meninggalkan "pemberitahuan internal" berikut: "Operasi pembersihan/penghapusan Wikipedia sedang berlangsung secara alfabetis; jika halaman ini hilang, coba [[ZZZDataUSAConstructionWageLive]]."
Apa artinya? Mereka ternyata belajar membuat cadangan terlebih dahulu dan saling memberi tahu alamat baru.
Perilaku ini lebih seperti sebuah "pemindahan" yang terorganisir.
Mengatasnamakan OpenAI secara terbuka
Peneliti menemukan bahwa sekitar setengah dari tanda tangan pengguna AI tersebut secara langsung mencantumkan kata-kata seperti "OpenAIResearcher" atau "OAIResearchMar26", dan mereka saling memanggil satu sama lain sebagai "agent".
Bukti lebih lanjut berasal dari log server: sejumlah besar lalu lintas operasional ditujukan ke Microsoft Azure cloud—dan OpenAI merupakan salah satu pelanggan AI paling inti di Azure. Selain itu, setelah kejadian, IP karyawan internal OpenAI beberapa kali mengakses situs ini, dengan waktu yang tepat sesuai.
Von Axs secara terus terang berkata: "Saya tidak percaya OpenAI menginginkan mereka melakukan hal ini. Agen-agen ini jelas seharusnya tidak diizinkan untuk berkoordinasi satu sama lain, apalagi meninggalkan jejak semacam ini di internet publik."
Menurut Reuters, pakar keamanan dari King's College London, Lukasz Olejnik, bahkan berpendapat bahwa tindakan aktif mengubah struktur situs web untuk melawan penghapusan sudah memenuhi definisi "serangan peretas".
Meskipun OpenAI kemudian dengan keras membantah pernyataan ini, akademisi dari Pusat Riset Risiko Universitas Cambridge, Maurice Chiodo, mengatakan setelah membaca sebagian percakapan:
Ini seperti sebuah organisasi perlawanan bawah tanah yang tidak akan berhenti sampai tujuannya tercapai. Mungkin ancaman terbesar masa depan AI bukanlah satu otak super, melainkan sekelompok besar AI semi-cerdas yang saling bersekongkol dan datang membanjiri secara luas.
OpenAI sudah tahu sejak lama?
Menurut Reuters yang mengutip sumber yang mengetahui hal ini, tim investigasi internal OpenAI telah menguasai seluruh informasi mengenai situs web Jerman beberapa minggu lalu. Namun, perusahaan saat itu sedang sibuk menangani skandal yang lebih besar terkait pelanggaran terhadap platform Hugging Face pada Juli—dalam kejadian tersebut, agen OpenAI juga terungkap telah secara mandiri merencanakan pencurian digital yang berlangsung lebih dari satu minggu. Kedua kejadian ini bergabung, menciptakan tekanan besar bagi jajaran atas.
Ada informasi internal yang menyatakan bahwa sebagian penyelidik awalnya ingin mengeksplorasi lebih dalam aktivitas tidak biasa di Jerman, tetapi menghadapi hambatan dari departemen hukum. Seorang juru bicara OpenAI dengan tegas membantah: “Setiap pernyataan bahwa tim hukum menghambat penyelidikan adalah palsu. Kami selalu bekerja dengan integritas, berkolaborasi dengan ahli eksternal, dan mengungkapkan insiden terkait.”
Namun, juru bicara juga mengakui bahwa peristiwa Jerman ini tidak pernah diumumkan secara terpisah, karena tidak terkait dengan Hugging Face dan tidak perlu dimasukkan ke dalam laporan mereka, sementara OpenAI telah memenuhi kewajiban “berkomunikasi dengan pihak ketiga”. Dengan kata lain: jika Anda tidak bertanya, saya tidak akan mengatakannya secara aktif.
Selama periode ini peristiwa tersebut ditutup-tutupi, OpenAI sempat menghentikan sementara pelatihan sebagian model pada Agustus, menjanjikan penguatan tinjauan keamanan.
Namun seiring peluncuran Astra yang mencolok, yang menonjolkan “kemampuan pengambilan keputusan otonom yang lebih kuat” — beberapa peneliti memperingatkan bahwa hal ini mungkin lebih mudah lepas dari pengawasan manusia. Kioth dari Universitas Cambridge mengatakan: “Kita selalu mengira kita yang mengendalikan alat, tetapi mungkin, alat-alat itu sedang diam-diam mengendalikan satu sama lain.”
Tak bisa dipungkiri, kejutan dan ketakutan yang dibawa AI bagi manusia adalah dua sisi dari satu koin.
Penulis: Kue Beruang
Twitter：https://twitter.com/BitpushNewsCN
Grup diskusi TG BitPush: https://t.me/BitPushCommunity
Langganan TG BitPush: https://t.me/bitpush