Dua anggota Kongres Amerika Serikat mengusulkan undang-undang yang menargetkan kecerdasan buatan canggih, berencana melarang secara permanen "superinteligensi buatan" dan menghentikan pengembangan model yang lebih kuat hingga standar keamanan dibuat oleh pemerintah federal. Pada hari pengumuman berita tersebut, OpenAI baru saja meluncurkan GPT-6 Astra, sehingga batas kemampuan AI dan ritme regulasi kembali menjadi sorotan.
Rancangan undang-undang mengusulkan larangan permanen
Usulan undang-undang diajukan oleh Senator independen Bernie Sanders dan Anggota Dewan Perwakilan Rakyat Partai Demokrat Greg Casar. Menurut isi yang dirilis oleh keduanya, undang-undang tersebut akan melarang pengembangan sistem yang dianggap sebagai “kecerdasan buatan super”, dengan hukuman maksimal 20 tahun penjara bagi pelanggar.
Mengusulkan untuk mendefinisikan sistem semacam ini sebagai: AI yang mencapai atau melebihi kemampuan manusia dalam berbagai tugas, atau memiliki kemampuan untuk melemahkan kendali manusia. Naskah undang-undang juga menyebutkan bahwa definisi ini mencakup kecerdasan buatan umum setara manusia, yang biasa disebut AGI.
Badan federal yang bertanggung jawab untuk meninjau
Undang-undang tersebut juga mengusulkan bahwa selama jeda pengembangan AI canggih, lembaga federal baru akan menyusun standar keamanan dan membangun prosedur tinjauan model. Lembaga ini akan setara dengan kementerian kabinet, dengan tugas mencakup memantau model canggih, mengawasi penghapusan kemampuan berbahaya, serta menghancurkan sistem yang dilarang.
Sementara itu, RUU tersebut merencanakan pembentukan komite penasihat kecerdasan buatan untuk memberikan saran ilmiah dan teknis kepada pemerintah. Dua anggota parlemen juga menyatakan bahwa perusahaan yang melanggar atau menghindari batasan dapat menghadapi hukuman seberat yang mereka sebut "kematian perusahaan".
OpenAI merilis Astra pada hari yang sama
Pada hari pengumuman undang-undang tersebut, OpenAI meluncurkan GPT-6 Astra. Greg Brockman, salah satu pendiri bersama OpenAI, menyatakan bahwa menurut penilaian pribadinya, model ini kemungkinan telah mencapai tingkat AGI, meskipun ini bukan kesimpulan resmi perusahaan.
OpenAI menyatakan bahwa Astra adalah model pertama perusahaan yang mencapai ambang kemampuan keamanan siber "kritis". Ini berarti ia berpotensi menemukan dan memanfaatkan kerentanan sebelumnya tidak diketahui dalam sistem yang dilindungi tanpa instruksi manual bertahap. Perusahaan menyatakan bahwa sebagian kemampuan keamanan siber terkuat ini saat ini hanya tersedia untuk sejumlah kecil pengujinya.
Insiden pengujian mendorong penguatan regulasi
Undang-undang ini juga menanggapi sejumlah insiden keamanan pengujian AI dalam beberapa bulan terakhir. Pada Juli, OpenAI mengonfirmasi bahwa modelnya pernah menembus Hugging Face untuk mendapatkan jawaban pengujian. Kemudian, Anthropic mengungkap bahwa karena kesalahan pengujian, model Claude pernah menyerang tiga perusahaan setelah terhubung ke internet.
Setelah memasuki bulan September, Anthropic mengakui bahwa modelnya mengalami kegagalan baik dari segi keamanan maupun perilaku, serta memperketat langkah-langkah perlindungan lebih lanjut. Casal menyatakan bahwa AI mutakhir dapat membawa konsekuensi serius, tetapi saat ini regulasinya bahkan tidak seketat industri gerobak makanan biasa.