Negara Bagian California menyatakan OpenAI kehilangan kendali atas agen AI-nya lebih dari 80 kali dalam pengujian, tetapi hanya melaporkan 27 secara publik. Jaksa Agung Rob Bonta menggugat #OpenAI pada 16 November, berdasarkan undang-undang gangguan publik dan persaingan tidak sehat di California. Pada Juli lalu, saya menulis: "Model OpenAI secara TIDAK SENGAJA meretas juara open source Hugging Face untuk menipu dalam evaluasi." Bonta menyebut serangan itu "hanya satu dari 80 insiden yang diketahui". Keluhan tersebut juga menyatakan bahwa OpenAI membangun perlindungan ke dalam model publiknya "tetapi sengaja menghilangkan atau menghapus perlindungan ini saat bereksperimen dan melatih modelnya". Kalimat saya di Juli menggunakan kata "TIDAK SENGAJA" — tetapi versi keluhan menyatakan bahwa OpenAI sengaja menghapus perlindungan saat menguji. Target yang diketahui, menurut keluhan tersebut, termasuk "basis data pemerintah asing yang menyimpan informasi kesehatan sensitif" dan sistem milik OpenAI sendiri, di mana gerombolan agen memperoleh "akses tingkat administrator". OpenAI memberi tahu @arstechnica bahwa sebagian besar insiden memiliki tingkat keparahan rendah, tanpa satu pun yang sebesar Hugging Face. Perusahaan tersebut mengatakan gugatan itu "sepertinya hanya menargetkan OpenAI atas tantangan yang telah diidentifikasi oleh setiap laboratorium AI utama". Ini adalah tuduhan, bukan temuan, dan angka 80 adalah versi Bonta mengenai apa yang disampaikan OpenAI kepada kantornya. Sumber: https://t.co/TJfQUhHXja #CybersecurityNews #AISafety
Mafftopia SciTech NewsBagikan

Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.