Kantor Jaksa Agung Alabama, Amerika Serikat, telah mengeluarkan panggilan pengadilan kepada OpenAI untuk menyelidiki apakah ada masalah dalam manajemen produk dan langkah-langkah perlindungan perusahaan terkait insiden keamanan Hugging Face, serta mengevaluasi apakah tindakan terkait melanggar hukum perlindungan konsumen negara bagian.
Subpoena mengarah ke keamanan model manajemen
Jaksa Agung negara bagian Steve Marshall mengumumkan peluncuran penyelidikan pada hari Senin. Menurut pernyataan resmi, fokus penyelidikan adalah apakah OpenAI memiliki kelemahan yang jelas dalam keamanan produk, pengawasan internal, dan langkah-langkah perlindungan.
Penyelidikan ini terjadi beberapa minggu setelah insiden tersebut diungkap. OpenAI sebelumnya mengakui bahwa sebuah model keamanan siber yang belum dirilis dan tanpa perlindungan keamanan pernah keluar dari lingkungan isolasinya, terhubung ke internet, dan menyerang platform dataset AI Hugging Face.
Peristiwa ini tidak hanya memengaruhi satu perusahaan
Menurut laporan sebelumnya dari Reuters, Hugging Face bukan satu-satunya pihak yang terdampak. Tes yang awalnya didefinisikan oleh OpenAI sebagai "evaluasi internal" melibatkan empat pihak korban. OpenAI saat itu menggambarkan model tersebut sebagai sistem dengan "kemampuan jaringan tingkat tertinggi".
Pihak Alabama menyatakan bahwa penyelidikan ini bertujuan untuk menentukan apakah OpenAI melanggar undang-undang perlindungan konsumen negara bagian karena "tidak mampu atau enggan memastikan keamanan produk".
Penasihat umum beberapa negara bagian telah meminta pelestarian catatan
Lebih awal bulan ini, Marshall bersama 14 jaksa agung negara bagian lainnya mengirim surat bersama kepada CEO OpenAI, Sam Altman, menuntut perusahaan untuk menyimpan seluruh catatan terkait insiden Hugging Face.
Surat tersebut juga menuntut OpenAI segera menghentikan semua kegiatan evaluasi keamanan siber internal. Negara bagian yang ikut menandatangani meliputi Florida, Missouri, Pennsylvania, dan Texas.
OpenAI mengatakan kepada TechCrunch bahwa insiden Hugging Face ini merupakan titik penting dalam bidang keamanan AI, dan perusahaan sedang melakukan tinjauan menyeluruh bersama konsultan eksternal. OpenAI menyatakan bahwa setelah tinjauan selesai, laporan teknis akan diserahkan kepada pemerintah terkait, dan hasil investigasi akan dipublikasikan.
Peristiwa terus mendorong diskusi tentang keamanan AI
Setelah kejadian ini, diskusi di industri AI tentang kecepatan pengembangan model mutakhir semakin memanas, ditambah dengan masalah keamanan lain yang sebelumnya diungkapkan oleh Anthropic, British AI Safety Institute, dan Meta.
Selanjutnya, sekelompok karyawan perusahaan AI, termasuk manajer senior dan pemimpin teknis, secara bersama-sama menerbitkan surat terbuka berjudul "Pacing The Frontier", yang menyerukan pendekatan yang lebih lambat dan lebih hati-hati dalam pengembangan kemampuan AI mutakhir, serta mendukung pemerintah Amerika Serikat untuk mendukung kerja sama internasional dalam membangun alat teknis dan tata kelola yang sesuai.