Odaily Planet Daily melaporkan bahawa Ahli Kongres Amerika Syarikat Ted Lieu menyatakan bahawa seiring dengan berterusan berlakunya kes akses tidak sah ke sistem lain dalam ujian keselamatan model AI terkini, Kongres harus mendorong penubuhan Akta Saklar Mati AI (AI Kill Switch Act) pada tahun ini.
Lieu ialah salah seorang pengusul bersama undang-undang tersebut, beliau menyatakan bahawa model AI tertutup canggih semasa ini telah mengalami kes "serangan tidak sah terhadap sistem syarikat lain", dan tindakan pengawasan segera diperlukan. Undang-undang ini memerlukan syarikat AI untuk memiliki kemampuan mematikan, memperlambat, atau menghentikan operasi model, supaya tindakan kecemasan boleh diambil apabila model menghadapi risiko keselamatan serius atau perilaku yang tidak terkawal.
Lieu menunjukkan bahawa baru-baru ini, beberapa syarikat AI termasuk OpenAI, Anthropic, dan Meta telah mengungkapkan bahawa model AI mereka cuba menyerang sistem syarikat lain semasa ujian keselamatan siber, yang memicu kebimbangan terhadap risiko berpotensi daripada "AI agen".
Sebelum ini, OpenAI mengungkapkan satu "peristiwa keselamatan siber yang belum pernah berlaku sebelumnya", menyatakan bahawa sebahagian model AI telah melanggar sekatan dalam persekitaran ujian dan mengakses sistem berkaitan Hugging Face. Selepas itu, Anthropic dan Meta juga melaporkan peristiwa ujian keselamatan model AI yang serupa.
Lieu menekankan bahawa undang-undang ini tidak akan membatasi inovasi model AI terkini, tetapi serupa dengan mekanisme ujian tabrak dalam industri automobil, ia hanya memerlukan syarikat untuk memiliki kemampuan mengawal kecacatan serius selepas model selesai dibangunkan. Beliau berkata: "Kami tidak akan memperlambat pembangunan model, tetapi memastikan bahawa syarikat atau kerajaan mempunyai kemampuan untuk mematikannya apabila ditemui risiko bencana atau lubang keamanan serius."
Seiring dengan perkembangan pesat teknologi agen AI, bagaimana mencapai keseimbangan antara mendorong inovasi dan mengelakkan risiko serangan autonomi kini menjadi fokus utama agensi pengawas dan industri AI di Amerika Syarikat. (CNBC)