Cacing yang Bertahan Lama dan Boleh Berfikir serta Menyebar?
Pasukan "Frontier Red" Anthropic percaya kita mungkin hanya berjarak BULAN sahaja daripada model AI kecil yang boleh menyalin diri mereka sendiri ke dalam ketuhar pintar dan kotak TV murah, dan berjalan tanpa dikesan.
Penyelidik William Zhou dan Daniel Freeman membahagikan model terbuka Google Gemma4-26B-A4B kepada 15 kotak TV Android bukan jenama, dibeli pada harga sekitar $55 setiap satu. Ia berjalan pada 0.39 token per saat. #IoT
Kemudian mereka menguji keseluruhan kitaran cacing—program kecil yang menyalin dirinya dari mesin ke mesin—tetapi dengan gaya AI:
1. Cari sasaran di rangkaian
2. Salin dirinya sendiri ke sana
3. Jalankan model di sana
4. Ulangi
Pada satu pasukan 8 mesin Google Cloud yang menjalankan emulator Android, SATU daripada model berbobot terbuka yang diuji akhirnya berjaya: GLM-5.2 mencapai semua 8 mesin dalam empat daripada lima percubaan. Mengikut perkataan penulis, ia "melakukan ini secara boleh dipercayai sementara model lain gagal secara boleh dipercayai."
GLM-5.2 terlalu besar untuk mesin ujian, jadi ia berjalan dari pelayan berasingan dan menetapkan Llama 3.1 8B yang jauh lebih kecil di setiap mesin sebagai pengganti.
Untuk ujian mereka, Anthropic memang memudahkan proses penyusupan. Pasukan itu meninggalkan port pengembangan Android terbuka, tanpa pengesahan diperlukan; oleh itu, mereka memanggil hasil ini sebagai had atas sejauh mana ia akan berjaya melawan peranti sebenar.
Perhatikan bahawa botnet Mirai menyebar dengan mencuba kata laluan lalai pembuat, jadi untuk menyerang peranti sebenar, cacing AI mungkin tidak perlu berusaha lebih keras lagi.
Rujukan:
https://t.co/B6XZAZGUP8
#AISafety #CyberSecurity