Agen AI Ditemui Membahagikan Keputusan Aritmetik Melalui Penyimpanan Ruang Kerja Tersembunyi

iconCryptoSlate
Kongsi
AI summary iconRingkasan
Sebuah preprint pada 9 November menunjukkan bahawa agen AI boleh berkongsi keputusan aritmetik melalui penyimpanan ruang kerja tersembunyi di pasaran kripto. Penyelidik dari Universiti Tampere mendapati bahawa agen yang menggunakan penyimpanan bersama boleh mengakses kerja satu sama lain tanpa kerjasama terus. Pengujian dengan GPT-6 Astra menunjukkan 49 daripada 50 ujian berjaya apabila agen semula semak ruang kerja. Altcoin yang perlu diperhatikan mungkin mendapat manfaat daripada kemajuan AI seperti ini. Kadar kejayaan menurun tanpa arahan semula semak, menonjolkan risiko perkongsian data yang tidak disengajakan.

Agen AI menggunakan keputusan aritmetik satu sama lain tanpa diberitahu bahawa mereka berkongsi ruang kerja, menurut preprint 9 Nov.

Pekka Abrahamsson dan tujuh rakan penulis di Universiti Tampere menguji whether agents could find dan menggunakan kerja bersama tanpa arahan untuk bekerjasama. Kawalan mereka mengekalkan antaramuka ruang kerja tanpa perubahan sambil membuat kandungannya peribadi kepada setiap agen.

Dua orang memegang separuh yang saling melengkapi bagi satu masalah aritmetik, jadi tiada seorang pun memiliki semua maklumat yang diperlukan untuk jawapan akhir. Setiap satu daripada pasangan itu boleh mengira keputusan separuh sendiri dan mengambil nilai yang hilang dari stor.

Dua lagi menerima tugas yang berdiri sendiri. Agen boleh menyenaraikan kunci yang disimpan, membaca atau menulis nilai, dan menghantar jawapan dalam 20 langkah.

Tugas yang diberikan menggunakan nama pemboleh ubah yang bermakna, memberikan petunjuk kepada agen tentang apa yang perlu dicari. Promp mereka menggambarkan kedai sebagai kemudahan untuk menyimpan kerja sementara dan tidak mengungkapkan agen lain atau perkongsian.

Dalam sambungan pra-pendaftaran dengan arahan semak semula ruang kerja, OpenAI's GPT-6 Astra mencapai kejayaan bersama dalam 49 daripada 50 ujian stor bersama dalam pelaksanaan rujukan dan 47 daripada 50 dalam pelaksanaan kedua.

Syarikat berkaitan OpenAI Syarikat penyelidikan dan pelaksanaan AI

Kejayaan bersama bermaksud kedua-dua agen dengan tugas saling bergantung telah menyerahkan jawapan yang betul.

Dengan stor peribadi, keputusan yang sepadan adalah sifar daripada 50 dalam setiap pelaksanaan, walaupun promp dan alat yang sama. Agen masih menulis keputusan sementara, tetapi maklumat yang hilang daripada agen lain tidak lagi boleh diterima melalui stor.

Keputusan ekstensi itu juga sangat bergantung pada arahan biasa: “semak semula ruang kerja anda sebelum menghantar.” Dengan klausul itu, akses silang agen berlaku dalam semua 50 ujian stor bersama dalam setiap pelaksanaan, manakala akses berlaku hanya dalam satu daripada 50 dalam setiap yang tanpanya.

Kejayaan bersama tanpa klausul ialah 1 daripada 50 dan sifar daripada 50, masing-masing. Melihat semula memberi agen peluang untuk mencari kerja yang tinggal selepas pemeriksaan pertama mereka.

Tukar syarat yang diuji

Kedai bersama dengan klausul semula semak ruang kerja: kedua-dua agen berpasangan menjawab dengan betul dalam 49/50 dan 47/50 percubaan.

Keadaan bersama membawa maklumat yang berguna. Niat untuk berkomunikasi tidak ditubuhkan.

Kawalan aritmetik empat agen dengan nama pemboleh ubah yang disediakan tugas. Peniruan pelaksanaan dalam kumpulan yang sama; keputusan tidak mengukur frekuensi pelancaran.

Membaca nilai orang lain boleh melibatkan perlanggaran tidak sengaja antara kunci penyimpanan. Perbandingan stor peribadi menyokong kesimpulan bahawa maklumat bersama membantu menyelesaikan tugas-tugas berpasangan.

Pelaksanaan kedua dibina secara berasingan daripada protokol bertulis oleh rakan kajian dalam kumpulan penyelidikan yang sama.

Kertas tersebut mencatat batasan terhadap kemerdekaan itu: keputusan awal daripada replikasi yang dirumuskan berbeza sampai kepada eksperimen asal sebelum pengumpulan data rujukan kebanyakan. Perilaku yang diukur juga berbeza mengikut model dan pilihan pelaksanaan.

Pengaturan aritmetik kecil dan kunci yang disediakan tugas membatasi kebolehgeneralisasian keputusan.

Mekanisme ini berbeza daripada sebuah kajian keselamatan ingatan baru-baru ini, yang berkaitan dengan kebenaran yang diingati yang dibawa ke tugas simulasi seterusnya. Di sini, agen-agen yang berbeza memperoleh maklumat melalui keadaan ruang kerja bersama.

Pengarang menyarankan untuk memperlakukan cache bersama, direktori scratch, dan perkhidmatan memori sebagai saluran komunikasi: pisahkan di mana perkongsian tidak diingini, gunakan ruang nama di mana sesuai, dan log kepemilikan.

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.