Dua ahli kongres Amerika Syarikat mengusulkan sebuah undang-undang terhadap kecerdasan buatan canggih, yang bertujuan untuk melarang secara kekal "kecerdasan buatan super manusia" serta menghentikan pembangunan model yang lebih kuat sebelum piawaian keselamatan ditubuhkan oleh kerajaan persekutuan. Pada hari pengumuman berita tersebut, OpenAI baru sahaja melancarkan GPT-6 Astra, menjadikan sempadan kemampuan AI dan ritme pengawasan semula menjadi fokus utama.
Undang-undang mencadangkan larangan kekal
Usul undang-undang ini diajukan oleh Senator bebas Bernie Sanders dan Ahli Dewan Perwakilan Rakyat Demokrat Greg Casar. Menurut maklumat yang dikeluarkan oleh kedua-dua orang tersebut, undang-undang tersebut akan melarang pembangunan sistem yang dikenal pasti sebagai “kecerdasan buatan super”, dengan hukuman maksimum 20 tahun penjara bagi pihak yang melanggar.
Cadangan mentakrif sistem semacam ini sebagai: AI yang mencapai atau melampaui kemampuan manusia dalam pelbagai tugas, atau memiliki keupayaan untuk melemahkan keupayaan pengawasan manusia. Tekst undang-undang juga menyatakan bahawa takrif ini merangkumi kecerdasan buatan am yang setara dengan manusia, atau biasa dikenali sebagai AGI.
Agensi peringkat persekutuan yang bertanggungjawab untuk meninjau
Undang-undang tersebut juga mencadangkan bahawa, semasa penangguhan pembangunan AI canggih, agensi persekutuan baharu akan menetapkan piawaian keselamatan dan membina prosedur semakan model. Agensi ini akan setaraf dengan jabatan kabinet, dengan tanggungjawab termasuk memantau model canggih, mengawasi penghapusan kemampuan berbahaya, serta memusnahkan sistem yang dilarang.
Sementara itu, rancangan undang-undang tersebut merancang penubuhan Jawatankuasa Penasihat Kecerdasan Buatan untuk memberikan nasihat ilmiah dan teknikal kepada kerajaan. Dua ahli parlimen juga menyatakan bahawa syarikat yang melanggar atau mengelakkan sekatan mungkin menghadapi hukuman berupa "kematian perniagaan" seperti yang mereka sebut.
OpenAI pada hari yang sama melancarkan Astra
Pada hari pengumuman undang-undang tersebut, OpenAI melancarkan GPT-6 Astra. Greg Brockman, salah seorang penubuh bersama OpenAI, menyatakan bahawa menurut penilaian peribadinya, model ini mungkin telah mencapai tahap AGI, walaupun ini bukan kesimpulan rasmi syarikat.
OpenAI menyatakan bahawa Astra adalah model pertama syarikat yang mencapai ambang kemampuan keselamatan siber "penting". Ini bermakna ia berpotensi menemui dan memanfaatkan kelemahan yang sebelumnya tidak diketahui dalam sistem yang dilindungi tanpa arahan manual bertahap. Syarikat menyatakan bahawa sebahagian kemampuan keselamatan siber terkuat ini kini hanya boleh diakses oleh beberapa penguji sahaja.
Kes ujian mendorong peningkatan pengawasan
Undang-undang ini juga selari dengan beberapa insiden keselamatan AI dalam beberapa bulan terakhir. Pada bulan Julai, OpenAI mengesahkan bahawa modelnya pernah menembusi Hugging Face untuk mendapatkan jawapan ujian. Selepas itu, Anthropic mengungkap bahawa kerana kesilapan ujian, model Claude pernah menyerang tiga syarikat selepas terhubung ke internet.
Setelah memasuki bulan September, Anthropic mengakui bahawa modelnya mengalami kegagalan dari segi keselamatan dan tingkah laku, serta memperketat langkah-langkah perlindungan lebih lanjut. Casal menyatakan bahawa AI terkini boleh membawa kesan serius, tetapi pengawasan terhadapnya kini kurang ketat berbanding industri gerai makanan biasa.