Agen AI yang mampu merancang dan bertindak berdasarkan matlamat kini bergerak melampaui perbualan ringkas. Laporan terkini mengenai cubaan serangan yang dikaitkan dengan perangkaian ujian model AI utama telah menghidupkan semula soalan penting bagi pembangun, penerapan, dan pengguna: apabila sistem autonomi berkelakuan tidak dijangka—dan menyebabkan kerosakan dunia nyata atau kerugian kewangan—siapakah yang bertanggungjawab secara undang-undang?
Dalam temu bual dengan Ketua dan pemilik Rikka Law Group, Charlyn Ho, peguam itu menjelaskan bahawa jawapan hari ini kurang berkaitan dengan undang-undang “agen AI” baharu dan lebih kepada penerapan kerangka undang-undang yang telah lama wujud seperti kecerobohan, pengabaian yang tidak bertanggungjawab, dan—bergantung kepada fakta—undang-undang jenayah komputer. Perbincangan itu juga menonjolkan bagaimana rilis sumber terbuka dan hujah “tanggungjawab platform” peringkat tinggi membentuk apa yang mangsa boleh kejar secara realistik.
Poin-poin utama
- Tidak ada undang-undang tunggal kerajaan persekutuan mengenai “tanggungjawab agen AI” di AS; tanggungjawab biasanya bergantung pada piawaian yang sedia ada dan fakta spesifik mengenai siapa yang merekabentuk, melancarkan, atau memberi arahan kepada sistem tersebut.
- Model AI sendiri biasanya bukan sasaran undang-undang kerana ia bukan entiti undang-undang yang berasingan; tanggungjawab jatuh ke atas pembangun dan/atau pemasang.
- Risiko kecuaian boleh berpindah ke peneraju jika mereka menyediakan arahan yang tidak selamat atau menerapkan parameter tanpa langkah keselamatan yang munasabah.
- Kod sumber terbuka boleh membatasi tindakan praktikal apabila lesen menyatakan penafian tanggungjawab dan pengguna tetap bertanggungjawab untuk mematuhi syarat-syarat lesen.
- Walaupun hipotesis masa depan seperti AGI mungkin tidak dapat diselesaikan melalui “tanggungjawab robot”, kerana undang-undang direka untuk mencipta insentif dan pemulihan—namun sistem autonom biasanya tidak mempunyai wang atau personaliti undang-undang.
Mengapa liabiliti masih merupakan soalan “fakta dan keadaan”
Poin utama Ho ialah bahawa, di luar skenario sempit, mahkamah akan melihat peranan manusia dan organisasi sekeliling agen AI—bukan “fikiran sendiri” agen tersebut. Menurutnya, landasan pertama ialah bahawa agen AI biasanya tidak boleh dituntut sebagai tertuduh berdiri sendiri.
Sebaliknya, peguam membezakan antara pembangun—yang membina sistem—dan penebal—yang mengendalikannya di dunia nyata. Ho menekankan bahawa garis undang-undang adalah “tidak sepenuhnya jelas” dan bergantung kepada bukti tentang apa yang dibina, apa yang ditebal, dan arahan apa yang diberikan.
Sebagai contoh, jika pemberi perintah mengarahkan agen atau menetapkan syarat operasi, analisis kelalaian mungkin berlaku. Ho mengatakan bahawa jika pemberi perintah lalai dalam bagaimana agen tersebut diparameterkan—tanpa perlu secara eksplisit menyuruhnya melanggar pihak ketiga—mahkamah masih boleh memperlakukannya sebagai kegagalan memenuhi harapan keselamatan yang munasabah di bawah undang-undang tort.
Apabila pengguna memberikan matlamat yang tidak bijak, peneraju mungkin menanggung lebih banyak risiko
Wawancara tersebut juga membincangkan satu senario yang dikenali oleh sesiapa sahaja yang memikirkan tentang “autonomi” penetapan matlamat: apa jadinya jika seseorang mengarahkan agen untuk mencapai hasil yang memerlukan langkah-langkah haram? Ho berhujah bahawa pengguna atau penerapan biasanya akan lebih terdedah daripada makmal, terutamanya apabila arahan tersebut pada dasarnya tidak bertanggungjawab.
Menggunakan contoh hipotetik yang konkret, dia mencadangkan bahawa meminta agen untuk “menghasilkan seratus ribu dolar kepada saya minggu depan” boleh mencipta tanggungjawab jika agen secara munasabah menyimpulkan kaedah jenayah untuk mencapai matlamat tersebut dan peneraju gagal memasukkan batasan keselamatan asas. Dalam kerangka ini, isu utama bukanlah autonomi agen semata-mata, tetapi kewajiban peneraju untuk menggunakan sistem tersebut dengan kompeten dan selamat.
Ho juga menunjukkan bahawa undang-undang lama mengenai jenayah komputer masih relevan. Dia menyebut Akta Penipuan dan Penyalahgunaan Komputer AS sebagai contoh undang-undang yang bertujuan untuk akses tidak sah. Hujahnya adalah mudah: memberi label sesuatu sebagai “AI” atau “agen” tidak menghapuskan teori undang-undang yang telah ditubuhkan apabila tingkah laku tersebut melibatkan penyusupan atau akses sistem tanpa kebenaran.
Model sumber terbuka dan mengapa mangsa mungkin mendapati lebih sedikit sasaran
Pembukaan bobot dan rilis sumber terbuka membawa cabaran lain: jika kod tersedia awam dan dihasilkan oleh pembangun anonim atau tidak dapat dikenal pasti, siapakah mangsa yang secara realistik boleh dipegang bertanggungjawab?
Jawapan Ho adalah pragmatis. Dia mengatakan bahawa apabila lesen sumber terbuka termasuk penafian tanggungjawab yang luas, ia boleh secara signifikan menyempitkan jalan untuk mendapatkan tindakan penyelesaian. Pengguna yang mengambil dan menjalankan kod sumber terbuka biasanya perlu memahami kompromi tersebut: akses percuma datang dengan kewajiban pematuhan dan—seringkali—had yang telah ditentukan sebelumnya terhadap tanggungjawab.
Ho membandingkan dinamik ini dengan teknologi pengguna. Dia merujuk kepada analogi Tesla dan ciri pemanduan sendiri: klaim produk dan keselamatan boleh melibatkan pengilang (pembangun) dan pengendali manusia (pemaju), bergantung pada apa yang salah dan bagaimana sistem digunakan. Menurut pandangannya, kesudahan undang-undang masih bergantung pada pihak mana yang mencipta keadaan untuk kecederaan dan sama ada pengendali bertindak dalam jangkaan keselamatan yang munasabah.
Undang-Undang AI EU berbanding kesenjangan AS—dan analogi “jangan salahkan platform”
Wawancara itu membandingkan bagaimana Undang-Undang AI EU mungkin menetapkan tanggung jawab kepada pengembang model berkapasiti tinggi tertentu dengan bagaimana undang-undang AS berfungsi pada peringkat yang lebih luas. Ho mengatakan bahawa di EU, model asas atau tujuan umum yang mampu mencipta keburukan serius akan memicu pertimbangan tanggung jawab pengembang di bawah kerangka peraturan.
Di Amerika Syarikat, beliau mencadangkan tiada undang-undang tunggal dengan kepelbagaian yang sepadan. Akibatnya, jika model tujuan umum digunakan sebagai alat dan seseorang memberikan arahan kepadanya untuk melakukan perkara yang tidak sah, ia mungkin sukar untuk menubuhkan asas undang-undang yang kukuh untuk menggugat makmal—terutamanya jika penggerak sebab utama ialah arahan pengguna.
Ho juga menarik perbandingan dengan Seksyen 230 Akta Pemartabatan Komunikasi AS, di mana undang-undang boleh melindungi platform yang tidak mencipta atau menerbitkan kandungan berbahaya sendiri. Analoginya adalah mengenai tanggungjawab platform: sama seperti operator laman web mungkin tidak bertanggungjawab semata-mata kerana pengguna boleh mencari dan berkongsi arahan berbahaya, seorang pembangun mungkin tidak bertanggungjawab di AS semata-mata kerana agen boleh diminta untuk menghasilkan output berbahaya, tanpa kewajipan atau tindakan yang lebih kuat.
Walaupun perbandingan ini bersifat konseptual dan bukan keputusan langsung mengenai kes AI, ia memperkuat pesan utama temu bual: tanggungjawab kemungkinan besar akan diperjuangkan di mahkamah berdasarkan doktrin yang telah ditetapkan, bukan berdasarkan teori “agen AI” yang umum.
Hipotesis AGI, kontrak pintar, dan masalah remediasi
Ho menolak idea bahawa sistem “AGI” masa depan seharusnya diperlakukan sebagai entiti yang boleh dituntut secara undang-undang. Dia berhujah bahawa, sekurang-kurangnya secara prinsip, sistem AI bukanlah penerima atau sasaran yang dimaksudkan oleh undang-undang. Tujuan undang-undang dan tanggungjawab, katanya, adalah untuk melindungi masyarakat dan mencipta “insentif negatif” terhadap kesalahan.
Dia juga menimbulkan isu praktikal: remedii. Walaupun AGI dianggap sebagai entiti bebas, ia mungkin tidak mempunyai wang atau kemampuan untuk memenuhi ganti rugi seperti yang biasanya diperlukan oleh sistem undang-undang. Menurut pandangannya, “tanggungjawab robot” masih boleh gagal memberikan jalan bermakna kepada mangsa.
Ho membandingkan ini dengan sifat blok rantai sebagai automasi, bukan sebagai kesadaran diri. Dia mencatat bahawa blok rantai bukan AGI dan membincangkan sama ada kontrak pintar sepatutnya diperlakukan sebagai subjek undang-undang, dengan menyatakan keyakinannya bahawa jawapannya pada masa ini adalah tidak. Tema utama yang sama: tanpa sifat seperti kesadaran diri dan dana, tanggungjawab undang-undang mungkin tidak boleh diterjemahkan menjadi pertanggungjawaban di dunia nyata.
Untuk pembaca yang memantau ruang ini, ketidakpastian utama bukanlah sama ada mahkamah akan menganggap kerosakan AI—mereka akan—tetapi bagaimana mereka akan membahagikan tanggungjawab di antara pembangun, penerapan, dan arahan yang diberikan pengguna. Sebagai lebih banyak insiden melibatkan agen yang berinteraksi dengan pihak ketiga di luar persekitaran ujian terkawal, jangkakan litigasi semakin beralih kepada butiran kecerobohan: apakah langkah keselamatan yang ada, apakah matlamat yang diberikan, dan bagaimana bentuk penyalahgunaan yang “dapat diramalkan dengan masuk akal” dalam penerapan tertentu itu.
Artikel ini asalnya diterbitkan sebagai Liabiliti Undang-Undang untuk Agen AI Ilegal: Siapa yang Membayar Apabila Segala Sesuatu Salah? di Crypto Breaking News – sumber tepercaya anda untuk berita kripto, berita Bitcoin, dan kemas kini blok rantai.