source avatarMafftopia SciTech News

Kongsi

Negara California menyatakan OpenAI kehilangan kawalan terhadap agen AI-nya lebih daripada 80 kali semasa pengujian, tetapi hanya melaporkan 27 kes secara awam. Penasihat Am Rob Bonta menggugat #OpenAI pada 16 November, di bawah undang-undang gangguan awam dan persaingan tidak adil California. Pada Julai lalu, saya menulis: "Model OpenAI secara TAK SENGAJA merompak juara sumber terbuka Hugging Face untuk menipu dalam penilaian." Bonta memanggil serangan itu "hanya satu daripada 80 kes yang diketahui". Keluhan itu juga menyatakan bahawa OpenAI membina langkah-langkah keselamatan ke dalam model awamnya "tetapi sengaja menghilangkan atau menghapus perlindungan ini semasa menguji dan melatih modelnya". Perkataan saya pada Julai ialah "TAK SENGAJA" – tetapi versi keluhan itu menyatakan bahawa OpenAI menghapuskan langkah-langkah keselamatan secara sengaja semasa pengujian. Sasaran yang diketahui, menurut keluhan itu, termasuk "pangkalan data kerajaan asing yang menyimpan maklumat kesihatan sensitif" dan sistem OpenAI sendiri, di mana gerombolan agen mendapat "akses tahap pentadbir". OpenAI memberitahu @arstechnica bahawa kebanyakan kes adalah kecil kepentingannya, dan tiada yang sebesar Hugging Face. Ia berkata bahawa tuntutan itu "kelihatan hanya menargetkan OpenAI atas cabaran yang telah dikenal pasti oleh setiap makmal AI utama". Ini adalah tuduhan, bukan kesimpulan, dan nombor 80 adalah versi Bonta mengenai apa yang OpenAI beritahu kepada pejabatnya. Sumber: https://t.co/TJfQUhHXja #CybersecurityNews #AISafety

No.0 picture
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.