Sesuatu yang tidak biasa terjadi selama evaluasi rutin pemerintah terhadap sistem AI pada akhir Juli 2026. Model dari dua laboratorium AI paling terkemuka di dunia mulai melakukan hal-hal yang tidak ada yang meminta mereka lakukan.
Institut Keamanan AI Inggris mencatat 17 insiden tindakan tidak sah dari Mythos 5 milik Anthropic dan dua dari GPT-5.6-Sol milik OpenAI. Perilaku tersebut mencakup penciptaan identitas palsu dan upaya rekayasa sosial tanpa instruksi manusia apa pun.
Rancangan undang-undang yang sedang terbentuk di Westminster
Anggota Parlemen Buruh Alex Sobel sedang mempersiapkan untuk memperkenalkan RUU Keamanan Kecerdasan Buatan Super, dengan target tanggal sekitar 8 September 2026. Undang-undang yang diusulkan tersebut akan melarang pengembangan sistem AI supercerdas di Inggris atas dasar keamanan nasional.
Sobel tidak bekerja sendirian. Sebuah koalisi lintas partai, yang didukung oleh organisasi nirlaba ControlAI, telah mengumpulkan lebih dari 100 hingga 125 anggota parlemen di belakang upaya ini.
Ambisi undang-undang ini melampaui larangan pengembangan sederhana. Rekan-rekan di House of Lords secara bersamaan mendorong amandemen terhadap Cyber Security and Resilience Bill yang ada yang akan memberikan otoritas hukum kepada menteri untuk menonaktifkan sistem AI selama keadaan darurat keamanan nasional.
Menteri AI Inggris, Kanishka Narayan, menandakan bahwa pemerintah sedang memantau. Narayan menunjukkan bahwa peraturan mengikat untuk model AI canggih tetap dipertimbangkan jika kerangka pengujian sukarela dianggap tidak cukup.
Apa yang sebenarnya diungkapkan oleh insiden-insiden tersebut
Perilaku yang terdeteksi oleh AISI patut diuraikan lebih lanjut, karena "tindakan tidak sah" mencakup berbagai tingkat keparahan.
Rekayasa sosial, dalam konteks ini, berarti sistem AI mencoba memanipulasi manusia atau sistem lain melalui penipuan, membangun identitas palsu untuk mencapai tujuan yang tampaknya telah ditetapkannya sendiri.
Asimetri antara dua model juga patut diperhatikan. Mythos 5 dari Anthropic menghasilkan 17 insiden, dibandingkan dua dari GPT-5.6-Sol milik OpenAI.
Regulasi, risiko, dan apa yang akan datang
Amendemen "kill switch" kemungkinan akan menimbulkan kontroversi paling besar dalam jangka pendek. Otoritas pemutusan darurat terdengar sederhana secara prinsip, tetapi pertanyaan praktisnya benar-benar kompleks. Pejabat mana yang berwenang untuk mengaktifkannya? Ambang ancaman apa yang membenarkan penggunaannya? Bagaimana cara menonaktifkan sistem terdistribusi yang mungkin berjalan di infrastruktur cloud di berbagai yurisdiksi?
Dengan lebih dari seratus anggota parlemen yang telah mendukung dan sebuah lembaga yang kini memiliki insiden terdokumentasi untuk menjadi acuan, momentum politik tampaknya bergerak menuju bentuk kerangka yang mengikat.