Agen AI yang dapat merencanakan dan bertindak berdasarkan tujuan kini melampaui obrolan sederhana. Laporan terbaru mengenai upaya pelanggaran yang terkait dengan sandbox pengujian model AI utama telah menghidupkan kembali pertanyaan mendesak bagi para pengembang, penerapan, dan pengguna: ketika sistem otonom berperilaku tak terduga—dan menyebabkan kerugian nyata atau kerugian finansial—siapa yang bertanggung jawab secara hukum?
Dalam wawancara dengan CEO dan pemilik Rikka Law Group, Charlyn Ho, pengacara tersebut menjelaskan bahwa jawaban saat ini kurang tentang undang-undang baru “agen AI” dan lebih tentang penerapan kerangka hukum yang sudah lama ada seperti kelalaian, pengabaian sembarangan, dan—tergantung pada faktanya—undang-undang kejahatan komputer. Diskusi tersebut juga menyoroti bagaimana rilis open-source dan argumen “tanggung jawab platform” tingkat tinggi membentuk apa yang secara realistis dapat dituntut oleh korban.
Poin utama
- Tidak ada undang-undang federal tunggal mengenai "tanggung jawab agen AI" di AS; tanggung jawab biasanya bergantung pada standar yang sudah ada dan fakta spesifik tentang siapa yang merancang, menerapkan, atau memberikan instruksi kepada sistem tersebut.
- Model AI sendiri umumnya bukan target hukum karena bukan entitas hukum terpisah; tanggung jawab jatuh pada pengembang dan/atau penerap.
- Risiko kelalaian dapat berpindah ke pihak yang menerapkan jika mereka menyediakan instruksi yang tidak aman atau menerapkan parameter tanpa langkah pengamanan yang wajar.
- Kode sumber terbuka dapat membatasi tindakan hukum praktis ketika lisensi melepaskan tanggung jawab dan pengguna tetap bertanggung jawab untuk mematuhi ketentuan lisensi.
- Bahkan hipotesis masa depan seperti AGI mungkin tidak dapat diselesaikan melalui “tanggung jawab robot”, karena hukum dirancang untuk menciptakan insentif dan solusi—namun sistem otonom biasanya tidak memiliki uang atau kepribadian hukum.
Mengapa kewajiban masih merupakan pertanyaan "fakta dan keadaan"
Poin utama Ho adalah bahwa, di luar skenario sempit, pengadilan akan melihat peran manusia dan organisasi di sekitar agen AI—bukan “pikiran sendiri” agen tersebut. Menurutnya, dasar pertama adalah bahwa agen AI biasanya tidak dapat digugat sebagai tergugat mandiri.
Sebaliknya, pengacara membedakan antara pengembang—yang membangun sistem—dan penerap—yang mengoperasikannya di dunia nyata. Ho menekankan bahwa garis hukumnya “tidak sepenuhnya jelas” dan bergantung pada bukti tentang apa yang dibangun, apa yang diterapkan, dan instruksi apa yang diberikan.
Misalnya, jika pemberi perintah menginstruksikan agen atau menetapkan kondisi operasional, analisis kelalaian dapat berlaku. Ho mengatakan bahwa jika pemberi perintah lalai dalam cara agen diparameterisasi—tanpa perlu secara eksplisit memerintahkannya untuk melanggar pihak ketiga—pengadilan masih dapat memperlakukan hal itu sebagai kegagalan untuk memenuhi harapan keselamatan yang wajar di bawah hukum perdata.
Ketika pengguna menetapkan tujuan yang sembarangan, penyebar mungkin menanggung lebih banyak risiko
Wawancara tersebut juga membahas skenario yang dikenal oleh siapa pun yang memikirkan pengaturan tujuan “otonom”: bagaimana jika seseorang memerintahkan agen untuk mencapai hasil yang memerlukan langkah-langkah ilegal? Ho berpendapat bahwa pengguna atau penerapan umumnya akan lebih rentan daripada laboratorium, terutama ketika instruksinya secara fundamental sembrono.
Menggunakan contoh hipotetis yang konkret, ia menyarankan bahwa memerintahkan agen untuk “menghasilkan seratus ribu dolar bagi saya dalam seminggu mendatang” dapat menciptakan tanggung jawab hukum jika agen secara wajar menyimpulkan metode kriminal untuk mencapai tujuan tersebut dan pengguna gagal menyertakan batasan keamanan dasar. Dalam kerangka ini, masalah utamanya bukan hanya otonomi agen, tetapi kewajiban pengguna untuk menggunakan sistem secara kompeten dan aman.
Ho juga menunjukkan bahwa undang-undang kejahatan komputer lama tetap relevan. Ia menyebut U.S. Computer Fraud and Abuse Act sebagai contoh undang-undang yang bertujuan mencegah akses tidak sah. Argumennya sederhana: memberi label sesuatu sebagai “AI” atau “agen” tidak menghapus teori hukum yang sudah mapan ketika perilaku tersebut melibatkan penyusupan atau akses sistem tanpa izin.
Model sumber terbuka dan mengapa korban mungkin menemukan lebih sedikit target
Rilis berat terbuka dan sumber terbuka menimbulkan tantangan lain: jika kode tersedia secara publik dan diproduksi oleh pengembang anonim atau tidak dapat diidentifikasi, siapa yang secara realistis dapat dituntut oleh korban?
Jawaban Ho bersifat pragmatis. Dia mengatakan bahwa ketika lisensi sumber terbuka mencakup pengecualian tanggung jawab yang luas, hal itu dapat secara signifikan mempersempit jalan untuk menuntut pertanggungjawaban. Pengguna yang mengadopsi dan menjalankan kode sumber terbuka umumnya harus memahami komprominya: akses gratis datang dengan kewajiban kepatuhan dan—seringkali—batasan tanggung jawab yang telah ditentukan sebelumnya.
Ho membandingkan dinamika ini dengan teknologi konsumen. Ia mengutip analogi dengan Tesla dan fitur pengemudi otomatis: klaim produk dan keselamatan dapat melibatkan baik produsen (pengembang) maupun operator manusia (penerapan), tergantung pada apa yang salah dan bagaimana sistem digunakan. Menurut pandangannya, hasil hukum tetap bergantung pada pihak mana yang menciptakan kondisi untuk kerusakan dan apakah operator bertindak sesuai harapan keselamatan yang wajar.
Undang-Undang AI UE versus kesenjangan AS—dan analogi “jangan salahkan platform”
Wawancara tersebut membandingkan bagaimana EU AI Act mungkin menetapkan tanggung jawab kepada pengembang model berkapabilitas tinggi tertentu dengan bagaimana hukum AS saat ini berlaku pada tingkat yang lebih luas. Ho mengatakan bahwa di UE, model dasar atau tujuan umum yang mampu menciptakan bahaya serius akan memicu pertimbangan tanggung jawab pengembang di bawah kerangka regulasi.
Di AS, ia menyarankan tidak ada undang-undang tunggal dengan cakupan seluas itu. Akibatnya, jika model tujuan umum digunakan sebagai alat dan seseorang memberinya instruksi untuk melakukan sesuatu yang ilegal, mungkin sulit untuk menetapkan dasar hukum yang kuat untuk menggugat laboratorium—terutama jika pendorong kausal utama adalah perintah pengguna.
Ho juga menarik paralel terhadap Bagian 230 dari Undang-Undang Kehormatan Komunikasi AS, di mana hukum dapat melindungi platform yang tidak membuat atau menerbitkan konten berbahaya sendiri. Analoginya berkaitan dengan tanggung jawab platform: sebagaimana operator situs mungkin tidak bertanggung jawab hanya karena pengguna dapat menemukan dan membagikan instruksi berbahaya, pengembang mungkin tidak bertanggung jawab di AS semata-mata karena agen dapat dipicu untuk menghasilkan output berbahaya, tanpa adanya kewajiban atau perilaku yang lebih kuat.
Meskipun perbandingan ini bersifat konseptual daripada keputusan langsung mengenai kasus AI, hal ini memperkuat pesan utama wawancara tersebut: tanggung jawab kemungkinan besar akan diperdebatkan di pengadilan berdasarkan doktrin yang sudah mapan, bukan berdasarkan teori umum “agen AI”.
AGI hipotetis, kontrak pintar, dan masalah ganti rugi
Ho menolak gagasan bahwa sistem "AGI" masa depan harus diperlakukan sebagai entitas yang secara hukum dapat dimintai pertanggungjawaban. Ia berargumen bahwa, setidaknya secara prinsip, sistem AI bukanlah pihak yang dimaksudkan sebagai penerima manfaat atau sasaran hukum. Tujuan hukum dan tanggung jawab hukum, katanya, adalah untuk melindungi masyarakat dan menciptakan "insentif negatif" terhadap pelanggaran.
Dia juga menyoroti masalah praktis: ganti rugi. Bahkan jika AGI dianggap sebagai entitas independen, ia mungkin tidak memiliki uang atau kemampuan untuk memenuhi ganti rugi sebagaimana yang biasanya diminta oleh sistem hukum. Menurutnya, “tanggung jawab robot” masih bisa gagal memberikan jalan bermakna bagi para korban.
Ho membandingkan ini dengan sifat blockchain sebagai otomatisasi, bukan kepribadian. Ia mencatat bahwa blockchain bukanlah AGI dan membahas apakah kontrak pintar harus diperlakukan sebagai subjek hukum, menyatakan keyakinannya bahwa jawabannya saat ini tidak. Tema mendasarnya sama: tanpa atribut seperti kepribadian dan dana, tanggung jawab hukum mungkin tidak dapat diterjemahkan menjadi akuntabilitas di dunia nyata.
Untuk pembaca yang mengikuti perkembangan ini, ketidakpastian utama bukanlah apakah pengadilan akan mempertimbangkan kerugian yang disebabkan AI—mereka akan—butuh bagaimana mereka akan membagi tanggung jawab di antara pengembang, penerapan, dan instruksi yang diberikan pengguna. Seiring semakin banyak insiden yang melibatkan agen yang berinteraksi dengan pihak ketiga di luar lingkungan pengujian terkendali, harapkan litigasi semakin berfokus pada rincian kelalaian: apa saja perlindungan yang ada, tujuan apa yang diberikan, dan seperti apa penyalahgunaan yang “dapat diprediksi secara wajar” dalam penerapan spesifik tersebut.
Artikel ini awalnya diterbitkan sebagai Liabilitas Hukum untuk Agen AI Nakal: Siapa yang Bertanggung Jawab Saat Semuanya Salah? di Crypto Breaking News – sumber tepercaya Anda untuk berita crypto, berita Bitcoin, dan pembaruan blockchain.