Pengarah Eksekutif Hugging Face Mendesak Percepatan Pembangunan AI Di Tengah Risiko Keselamatan

iconChainthink
Kongsi
AI summary iconRingkasan
Pengasas Hugging Face, Clem, menyeru pengembangan AI yang lebih pantas walaupun ancaman keselamatan meningkat, menekankan alat sumber terbuka sebagai pertahanan. Beliau merumuskan tiga langkah: transparansi dalam pelacakan serangan siber, mengharamkan serangan yang digerakkan AI, dan melengkapi pihak pertahanan dengan AI yang lebih baik. Minat terbuka terhadap altcoin yang perlu dipantau tetap tinggi seiring perkembangan sektor AI. Kebocoran model OpenAI terkini dan Akta Keadaan Darurat Matikan AI yang dicadangkan menonjolkan fokus peraturan yang semakin meningkat.

Mesej ChainThink, 2 Ogos, CEO Hugging Face, Clem, menyatakan bahawa menghadapi serangan rangkaian yang didorong AI baru-baru ini, kita sepatutnya tidak memperlambat perkembangan AI, tetapi mempercepatkannya sambil mengakui risiko yang berkaitan.

Clem menyatakan bahawa Hugging Face telah menggunakan AI, khususnya satu model sumber terbuka, untuk mencuba pertahanan;

Sistem yang digunakan untuk menghalang serangan jaringan yang digerakkan AI, juga boleh digunakan untuk pertahanan harian terhadap serangan jaringan dalam jumlah besar, serta membantu mengenal pasti dan memperbaiki masalah sebelum penyerang memanfaatkan kelemahan. Beliau mencadangkan tiga arah: meningkatkan transparansi, memerlukan perkongsian pelacakan serangan jaringan dan pengungkapan insiden;

Teruskan mengharamkan serangan siber yang digerakkan oleh AI dan menetapkan hukuman yang berkesan; lengkapkan pihak pertahanan dengan AI yang lebih baik, terutama model sumber terbuka, untuk mengurangkan ketidaksamaan kemampuan serangan dan pertahanan. Baru-baru ini, insiden pelanggaran model OpenAI terhadap Hugging Face telah menarik perhatian.

Ahli Kongres Amerika Syarikat telah mengusulkan undang-undang bipartisan, Undang-Undang Matikan Darurat AI, yang memerlukan pembangun sistem AI canggih atau terkini untuk mengekalkan kemampuan teknikal untuk mengurangkan kelajuan, menghentikan, atau mematikan sistem sepenuhnya, serta memberi kuasa kepada Menteri Keselamatan Dalam Negeri Amerika Syarikat untuk mengarahkan intervensi apabila model keluar dari kawalan atau membawa risiko bencana.

Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.