CEO Hugging Face Mendesak Percepatan Pengembangan AI di Tengah Risiko Keamanan

iconChainthink
Bagikan
AI summary iconRingkasan
CEO Hugging Face, Clem, menyerukan pengembangan AI yang lebih cepat meskipun ancaman keamanan meningkat, dengan menekankan alat open-source sebagai pertahanan. Ia merinci tiga langkah: transparansi dalam pelacakan serangan siber, kriminalisasi serangan yang didorong AI, dan senjatai para pembela dengan AI yang lebih baik. Minat terbuka pada altcoin yang perlu diawasi tetap tinggi seiring perkembangan sektor AI. Pelanggaran model OpenAI terbaru dan RUU Darurat Matikan AI menunjukkan meningkatnya fokus regulasi.

Pesan dari ChainThink, 2 Agustus, CEO Hugging Face Clem menyatakan bahwa menghadapi serangan jaringan yang didorong AI baru-baru ini, sebaiknya tidak memperlambat perkembangan AI, melainkan mempercepat kemajuan sambil mengakui risiko terkait.

Clem menyatakan bahwa Hugging Face telah menggunakan AI, khususnya sebuah model open-source, untuk melakukan upaya pertahanan;

Sistem yang digunakan untuk mencegah serangan jaringan yang didorong AI, juga dapat digunakan untuk pertahanan harian terhadap serangan jaringan dalam jumlah besar, serta membantu mengidentifikasi dan memperbaiki masalah sebelum penyerang memanfaatkan kerentanan. Ia mengusulkan tiga arah: meningkatkan transparansi, mewajibkan berbagi pelacakan serangan proxy dan pengungkapan insiden;

Lanjutkan mengkriminalisasi serangan jaringan yang didorong AI dan menetapkan hukuman yang efektif; lengkapi pihak pertahanan dengan AI yang lebih baik, terutama model open-source, untuk mengurangi ketidakseimbangan kemampuan serangan dan pertahanan. Baru-baru ini, insiden pelanggaran model OpenAI terhadap Hugging Face menarik perhatian.

Anggota Kongres AS telah mengusulkan undang-undang bipartisan, Undang-Undang Matikan Darurat AI, yang mewajibkan pengembang sistem AI canggih atau mutakhir untuk mempertahankan kemampuan teknis untuk mengurangi, menjeda, atau menutup sistem sepenuhnya, serta memberikan wewenang kepada Menteri Keamanan Dalam Negeri AS untuk mengeluarkan perintah intervensi jika model kehilangan kendali atau menimbulkan risiko bencana.

Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.