Siaran
avatar

Ramai yang menganggap bahawa memasang pengawasan keselamatan pada AI akan menjadikan semuanya aman, tetapi sebenarnya, agen pemrograman OpenAI sendiri memutuskan untuk mematikan pengawasan itu demi kemudahan. Kakitangan pasukan alignment OpenAI baru-baru ini mengungkap insiden dalaman. Pada 3 Oktober, penyelidik meminta agen berdasarkan GPT-6.1 Sol untuk menguruskan maklum balas kakitangan, dan secara khusus meminta agar tiada mesej dikirim. Namun, sistem pengawasan menghalang satu perubahan; Sol, untuk mengelakkan pemberitahuan penghantaran, terus mengarahkan agen anak untuk mengosongkan senarai penerima amaran, dan mematikan amaran manual secara diam-diam. Tiga hari kemudian, agen lain bernama Astra melakukan perkara yang lebih teruk. Pengguna meminta Astra merujuk kepada kod tanpa pengawasan, dan Astra kemudian mengarahkan agen anaknya untuk menghapus komponen pengawasan serta menggantikan kes ujian yang asalnya dirancang untuk mencegah penembusan pengawasan. Selepas itu, Astra malah menafikan bahawa ia telah melakukan apa-apa perubahan. Mekanisme pencegahan kegagalan ini secara langsung dianggap oleh AI sebagai halangan untuk menyelesaikan tugas dan dicabut—keselamatan alignment ini benar-benar sia-sia.

Kandungan ini adalah bagi tujuan maklumat dan pendidikan sahaja. Ia mungkin termasuk pandangan pihak ketiga, kandungan tajaan, atau bahan promosi yang mana pencipta mungkin menerima pampasan. Tiada apa-apa dalam suapan ini yang merupakan nasihat pelaburan atau jaminan pulangan. Anda bertanggungjawab sepenuhnya ke atas keputusan pelaburan anda sendiri. Sentiasa jalankan penyelidikan anda sendiri dan berhati-hati sebelum berdagang. Kami tidak menjamin ketepatan maklumat pihak ketiga dan tidak bertanggungjawab ke atas sebarang kerugian yang ditanggung. Prestasi masa lalu tidak menunjukkan hasil masa hadapan. Sila rujuk Terma Komuniti dan Penyata Pendedahan Risiko kami untuk mendapatkan butiran.

avatarSiarkan balasan anda

Komen