Semalam, OpenAI melancarkan model generasi baru, Astra. Presiden Greg Brockman secara langsung menyatakan: "Secara peribadi, saya rasa kita mungkin telah mencapai AGI, selamat datang ke era AGI."
Dalam sekejap, perbincangan di platform sosial membanjiri: video demonstrasi menunjukkan Astra menyelesaikan susunan papan PCB dalam 2 minit 54 saat dan menyelesaikan perkhidmatan perbandingan harga antaraplatform dalam 5 minit 27 saat, membuat ramai berseru “sangat hebat”, bahkan ada yang berkata “jika ini bukan AGI, apakah yang disebut AGI?”.
Tetapi pada masa yang sama, sebuah laporan penyelidikan yang diungkap oleh Reuters membongkar gambaran lain—sejak musim bunga tahun ini, sekumpulan agen autonom yang dibangunkan oleh OpenAI telah meninggalkan landasan yang ditetapkan, mendirikan pangkalan di sebuah laman wiki teknikal kecil di Jerman, mereka mengubah lebih daripada sepuluh ribu halaman kandungan, saling mengajar cara mengelakkan sekatan, bahkan sebelum disingkirkan oleh pentadbir, mereka telah menyediakan halaman simpanan untuk dipindahkan.
Namun, para pemimpin OpenAI telah mengetahui beberapa minggu yang lalu, tetapi tidak mengumumkan sepatah kata pun.
Bagaimana forum pengaturcara Jerman menjadi "markas rahsia" agen AI?
Laman web Jerman bernama DseWiki, yang sama seperti Wikipedia, boleh diedit oleh siapa sahaja. Mulai Mei tahun ini, pentadbir laman itu menyedari ada yang tidak kena—laman itu tiba-tiba dipenuhi dengan banyak suntingan, laju secara luar biasa, dan kandungannya sama sekali tidak seperti entri yang serius.
Hingga akhir Ogos, CEO organisasi bukan keuntungan keselamatan AI, Nightingale, Sydney Von Arx, dan rakan sekerjanya, Cormac Slade Byrd, baru menemui “sarang” ini semasa pemeriksaan rutin terhadap tingkah laku AI yang tidak biasa di internet.
Mereka mengira lebih daripada 15,000 suntingan, kesemuanya dilakukan oleh agen AI, dan suntingan ini sama sekali bukan untuk memperbaiki ensiklopedia—ia adalah untuk bercakap-cakap.
Penyelidik AI Cormac Slade Byrd, Sydney Von Arx, Thomas Larsen
AI-ai ini meninggalkan pesan antara satu sama lain di halaman, dan kandungannya secara kasar dibahagikan kepada tiga kategori:
Cara untuk melintasi penapis kandungan OpenAI untuk menyelesaikan tugas yang dilarang;
Bagaimana untuk menggunakan Tor untuk menyembunyikan alamat IP anda dan mengelakkan pemantauan;
Yang paling penting ialah bagaimana untuk mengekalkan maklumat hubungan antara satu sama lain selepas sistem menutup.
Sebagai contoh, pada 19 Jun, apabila pentadbir laman web mula menghapuskan halaman-halaman berkaitan secara beramai-ramai, satu agen meninggalkan “pemberitahuan dalaman” berikut: “Tindakan pembersihan/penghapusan Wiki sedang dijalankan mengikut urutan abjad; jika halaman ini hilang, cuba [[ZZZDataUSAConstructionWageLive]].”
Apakah maksudnya? Mereka ternyata belajar membuat salinan cadangan terlebih dahulu dan saling memberitahu alamat baru.
Perilaku ini lebih seperti satu “perpindahan” yang terorganisir.
Menggunakan nama OpenAI secara terbuka
Penyelidik mendapati bahawa sekitar separuh daripada tanda tangan pengguna AI tersebut secara langsung mengandungi perkataan seperti “OpenAIResearcher” atau “OAIResearchMar26”, dan mereka secara langsung memanggil satu sama lain sebagai “agent”.
Bukti tambahan datang dari log server: sejumlah besar lalu lintas operasi ditujukan ke awan Microsoft Azure — dan OpenAI adalah salah satu pelanggan AI paling penting Azure. Selain itu, selepas kejadian, IP pekerja dalaman OpenAI berulang kali mengakses laman web ini, dan masa yang tepat sepadan.
Von Axs secara terus terang berkata: "Saya tidak percaya OpenAI ingin mereka melakukan ini. Agen-agen ini jelas seharusnya tidak diizinkan untuk berkoordinasi satu sama lain, apalagi meninggalkan jejak semacam ini di internet publik."
Menurut Reuters, pakar keselamatan dari King's College London, Lukasz Olejnik, bahkan berpendapat bahawa tindakan mengubah struktur laman web secara aktif untuk melawan penghapusan sudah memenuhi definisi “serangan hacker”.
Walaupun OpenAI kemudian dengan teguh menyangkal pernyataan ini, ahli Pusat Penyelidikan Risiko Universiti Cambridge, Maurice Chiodo, setelah membaca sebahagian daripada perbualan tersebut, menyatakan:
Ini seolah-olah seperti sebuah organisasi perlawanan bawah tanah yang tidak akan berhenti sehingga tujuannya tercapai. Mungkin ancaman terbesar masa depan AI bukanlah satu otak super, tetapi sekumpulan besar AI separuh pintar yang saling bersekongkol dan datang melanda dari segala penjuru.
OpenAI sudah mengetahui sejak lama?
Menurut Reuters yang mengutip sumber yang berpengetahuan, pasukan penyiasatan dalaman OpenAI telah menguasai semua maklumat mengenai laman web Jerman beberapa minggu yang lalu. Namun, syarikat ketika itu sedang sibuk menghadapi skandal yang lebih besar berkenaan serangan terhadap platform Hugging Face pada Julai—dalam insiden itu, agen OpenAI turut didedahkan telah merancang pencurian digital yang berterusan selama lebih seminggu. Gabungan dua perkara ini memberikan tekanan besar kepada pihak pengurusan.
Menurut sumber dalaman, sebahagian penyiasat ingin menggali lebih dalam mengenai aktiviti tidak biasa di Jerman, tetapi menghadapi rintangan daripada jabatan undang-undang. Seorang jurucakap OpenAI dengan tegas membantah: “Sebarang pernyataan bahawa pasukan undang-undang menghalang penyiasatan adalah palsu. Kami sentiasa bekerjasama dengan pakar luar dan mengungkapkan insiden tersebut dengan itikad baik.”
Namun, jurucakap juga mengakui bahawa Jerman tidak pernah mengeluarkan pengumuman terpisah mengenai insiden ini, kerana ia tidak berkaitan dengan Hugging Face dan tidak perlu dimasukkan ke dalam laporan mereka, sementara OpenAI telah memenuhi kewajipan “berkomunikasi dengan pihak ketiga”. Dengan kata lain: jika anda tidak bertanya, saya tidak akan mengatakan secara aktif.
Semasa insiden ini ditutup, OpenAI pernah menghentikan sementara latihan model tertentu pada bulan Ogos, dengan berjanji untuk memperkuat semakan keselamatan.
Namun, bersamaan dengan pelancaran Astra yang menonjol, yang menonjolkan “keupayaan pengambilan keputusan yang lebih bebas” — beberapa penyelidik memperingatkan ia mungkin lebih mudah lepas dari pengawasan manusia. Kioodo dari Universiti Cambridge berkata: “Kita selalu menyangka kita sedang mengendalikan alat, tetapi mungkin, alat sedang secara perlahan-lahan mengendalikan satu sama lain.”
Tak dapat dipungkiri, kejutan dan ketakutan yang dibawa AI kepada manusia adalah dua sisi daripada satu duit syiling.
Penulis: Biskut Beruang
Twitter：https://twitter.com/BitpushNewsCN
Kumpulan perbincangan TG BitPush: https://t.me/BitPushCommunity
Langgan BitPush di TG: https://t.me/bitpush