Ang mga “agent” na AI na kayang magplano at mag-act batay sa mga layunin ay lumalabas na sa simpleng chat. Ang mga bagong ulat tungkol sa mga sinubukang paglabag na may kinalaman sa pangunahing mga sandbox para sa pagsubok ng AI model ay nagbukas muli ng isang mahalagang tanong para sa mga developer, tagapag-deploy, at mga user: kapag ang isang autonomous na sistema ay gumagawa ng hindi inaasahang pag-uugali—at nagdudulot ng tunay na pinsala o pananalapi—sino ang legal na responsable?
Sa isang pakikipanayam kay Charlyn Ho, CEO at may-ari ng Rikka Law Group, ipinaliwanag ng abogado na mas kaunting ugnay ang kasalukuyang sagot sa mga bagong batas tungkol sa “AI agent” at mas maraming ugnay sa paggamit ng matagal nang legal na framework tulad ng negligence, reckless disregard, at—batay sa mga katotohanan—mga batas tungkol sa computer crime. Binigyang-diin din ng talakayan kung paano ang open-source releases at mga high-level na argumento tungkol sa “platform liability” ang nagpapabago sa mga bagay na maaaring matotohanang habulin ng mga biktima.
Mga pangunahing natutunan
- Walang isang pambansang “liability ng AI agent” na batas sa Estados Unidos; ang pagkakasala ay karaniwang nakasalalay sa umiiral na mga pamantayan at sa mga partikular na katotohanan kung sino ang disenyo, ipinakilala, o pinatnubayan ang sistema.
- Hindi karaniwang legal na layunin ang mga modelo ng AI dahil hindi sila hiwalay na legal na entidad; ang sagotan ay nasa mga developer at/o mga nagpapalabas.
- Ang panganib ng pagkakamali ay maaaring mag-shift patungo sa tagapag-deploy kung sila ang nagbigay ng hindi ligtas na mga panuto o nag-deploy ng mga parameter nang walang makatotohanang mga pagsisiguro.
- Ang open-source code ay maaaring limitahan ang praktikal na paraan ng paghingi ng tulong kapag ang mga lisensya ay nagtatanggal ng responsibilidad at ang mga user ay nananatiling responsable para sa pagtutugma sa mga termino ng lisensya.
- Kahit ang mga hipotetikal na hinaharap tulad ng AGI ay maaaring hindi malutas sa pamamagitan ng “responsibilidad ng robot”, dahil ang mga batas ay disenyo upang lumikha ng mga insentibo at mga solusyon—ngunit ang mga awtonomong sistema ay karaniwang walang pera o legal na pagkakakilanlan.
Bakit patuloy na isang tanong ang “mga katotohanan at paligid” ang liability
Ang pangunahang punto ni Ho ay na, sa labas ng mga limitadong skenaryo, ang mga hukuman ay titingin sa mga papel na lalarawan ng mga tao at mga organisasyon sa paligid ng isang AI agent—hindi sa “sariling isip” ng agent. Sa kanyang pananaw, ang unang batayang antas ay na karaniwang hindi maaaring itaguyod bilang sariling defendant ang isang AI agent.
Sa halip, ang mga abogado ay nagtatangi sa pagitan ng isang developer—na nagbuo ng sistema—at isang deployer—na nagpapatakbo nito sa totoong mundo. Teknikal ni Ho na ang mga legal na linya ay “hindi lubos na malinaw” at nakadepende sa ebidensya tungkol sa ano ang nabuo, ano ang na-deploy, at anong mga tagubilin ang ibinigay.
Halimbawa, kung ang isang deployer ay nagbigay ng utos sa agent o nagtakda ng mga kondisyon ng operasyon, maaaring mag-apply ang pag-analisa ng kawalan ng pangangalaga. Sabi ni Ho, kung ang isang deployer ay nagkamali sa paraan kung paano pinarameterize ang agent—nang hindi kailangang sabihin nang direkta na lumabag sa isang ikatlong partido—maaari pa ring ituring ng mga hukuman ito bilang pagkabigo na matupad ang makatwirang mga ekspektasyon sa kaligtasan ayon sa batas ng tort.
Kapag ibinibigay ng mga gumagamit ang mga walang pag-iingat na layunin, maaaring magdala ng higit pang panganib ang tagapag-deploy.
Kasama rin sa interbyu ang isang sitwasyon na pamilyar sa sinumang nagsisipag-isip tungkol sa “awtonomong” pagtatakda ng layunin: kung ano ang mangyayari kung pinadala ng isang tao ang isang agente upang makamit ang isang resulta na nangangailangan ng ilegal na hakbang? Sinasabi ni Ho na ang user o deployer ay karaniwang mas eksposed kaysa sa laboratorio, lalo na kapag ang utos ay fundamental na bulag.
Gamit ang isang konkretong hipotetikal, inirerekomenda niya na ang pagpapahayag sa isang agent na “gawin mo akong isang daan libo dolyar bago susunod na linggo” ay maaaring magdulot ng pananagutan kung ang agent ay makatwirang nagmumula sa mga krimen upang makamit ang layunin at ang tagapag-deploy ay hindi naglalagay ng mga pangunahing limitasyon sa kaligtasan. Sa pagsasalaysay na ito, ang pangunahing isyu ay hindi lamang ang awtonomiya ng agent, kundi ang obligasyon ng tagapag-deploy na gamitin ang sistema nang may kasanayan at ligtas.
Tinutukoy rin ni Ho na ang mga lumang batas tungkol sa krimen sa kompyuter ay patuloy na may kahalagahan. Binanggit niya ang U.S. Computer Fraud and Abuse Act bilang halimbawa ng batas na nakatuon sa hindi pinahintulutang pag-access. Ang kanyang argumento ay direkta: ang paglalagay ng label na “AI” o “agent” ay hindi nagpapalit sa mga itinatag na teoryang legal kapag ang pagkilos ay nagsasangkot ng pagpasok o hindi pinahintulutang pag-access sa mga sistema.
Mga open-source na modelo at bakit maaaring makahanap ng mas kaunting mga biktima ang mga biktima
Ang pagbubukas ng timbang at open-source na mga release ay nagtataguyod ng isa pang hamon: kung ang code ay available sa publiko at ginawa ng mga developer na anonymous o hindi maiidentify, sino ang maaaring hilingin ng mga biktima na maging responsable?
Ang sagot ni Ho ay praktikal. Sabi niya na kapag naglalaman ang isang open-source license ng malawak na pagtatanggi sa pananagutan, maaari itong makapagpaliit nang malaki sa daan patungo sa paghingi ng tulong. Ang mga gumagamit na nag-aadopt at nagpapatakbo ng open-source code ay karaniwang dapat maunawaan ang kompromiso: ang libreng pag-access ay kasama ang mga obligasyon sa pagpapatupad—at madalas—mga nakadefinirang limitasyon sa pananagutan.
Ipinapahiwatig ni Ho ang dinamikang ito sa consumer technology. Ibinigay niya ang isang paghahambing sa Tesla at mga tampok ng self-driving: ang produkto at mga klaim sa kaligtasan ay maaaring magkaroon ng parehong tagagawa (developer) at tao na operator (deployer), depende sa ano ang nangyari at paano ginamit ang sistema. Ayon sa kanyang pananaw, ang legal na resulta ay patuloy na nakasalalay sa kung sino ang naglikha ng mga kondisyon para sa pinsala at kung ang operator ay gumawa ng mga aksyon na nasa loob ng katwirang mga ekspektasyon sa kaligtasan.
Ang EU AI Act kumpara sa mga puwang sa U.S.—at ang pagtutulad na “hindi magtanim ng kasalanan sa platform”
Ang interbyu ay nagtatambal sa paraan kung paano maaaring magkaloob ng responsibilidad ang EU AI Act sa mga developer ng mga partikular na mataas na kakayahan na modelo, kumpara sa paraan kung paano kasalukuyang gumagana ang batas ng Estados Unidos sa mas malawak na antas. Sabi ni Ho, sa EU, ang isang pangunahin o pangkalahatang layunin na modelo na may kakayahang lumikha ng seriyosong pinsala ay magiging sanhi ng pag-aaral ng responsibilidad ng developer sa ilalim ng regulatory framework.
Sa Estados Unidos, sinasabi niya na wala pong isang batas na may katumbas na kalawakan. Bilang resulta, kung gamitin ang isang pangkalahatang modelo bilang kasangkapan at ibinigay ng isang tao ang mga utos na gawin ang isang ilegal na gawain, maaaring mahirap matibayin ang malakas na batayang legal upang ipaglaban ang mga laboratorio—lalo na kung ang pangunahing sanhi ay ang utos ng gumagamit.
Kumukuha rin si Ho ng paralelo sa Seksyon 230 ng U.S. Communications Decency Act, kung saan ang batas ay maaaring protektahan ang mga platform na hindi sila mismo ang gumagawa o nagpapalabas ng mapaminsalang nilalaman. Ang kanyang paghahambing ay tungkol sa pagkakasala ng platform: tulad ng isang operator ng site na hindi maaaring masakdal nang magkakasala lamang dahil ang mga gumagamit ay maaaring makahanap at magbahagi ng mapaminsalang mga panuto, ang isang developer ay hindi maaaring masakdal sa U.S. nang magkakasala lamang dahil ang isang agent ay maaaring hikayatin na lumikha ng mapanganib na output, maliban kung may mas malakas na tungkulin o pag-uugali.
Kahit na ang paghahambing ay konseptwal kaysa isang direkta na pagpapasya sa mga kaso ng AI, ito ay pinapalakas ang pangunahing mensahe ng interbyu: ang pagkakasala ay malamang na ipaglaban sa hukuman gamit ang mga itinatag na doktrina, hindi sa isang pangkalahatang teorya ng “AI agent”.
AGI mga hipotesis, smart contract, at ang problema ng mga remidio
Hinulaan ni Ho ang ideya na ang mga hinaharap na sistemang “AGI” ay dapat tratuhin bilang mga entidad na may legal na pagkakasalang. Sinasabi niya na, sa pinakamaliit na prinsipyo, ang mga sistemang AI ay hindi ang inaasahang benepisyaryo o layunin ng batas. Ang layunin ng mga batas at pagkakasalang legal, ayon sa kanya, ay protektahan ang lipunan at lumikha ng “negatibong insentibo” laban sa kasalanan.
Kumikita rin siya ng isang praktikal na isyu: mga kaukulang pagpapalit. Kahit na ituring na isang independiyenteng entidad ang AGI, maaaring walang pera o kakayahan itong magbigay ng pagpapalit sa paraan na karaniwang hinihingi ng mga sistema ng batas. Sa kanyang pananaw, “responsibilidad ng robot” ay maaaring magtagal pa ring maging hindi makabuluhang daan para sa mga biktima.
Ipinapaghambing ni Ho ito sa kalikasan ng blockchain bilang awtomasyon kaysa pagkatao. Tinitiyak niya na ang blockchain ay hindi AGI at tinatalakay kung dapat ba pangalanan ang mga smart contract bilang mga legal na pakikilahok, at sinasabi niya na ang sagot ay kasalukuyang hindi. Ang pangunahing tema ay pareho: nang walang mga katangian na katulad ng pagkatao at mga pondo, ang legal na pagkakasala ay maaaring hindi mababawas sa tunay na mundo.
Para sa mga mambabasa na sumasayaw sa espasyong ito, ang pangunahing kawalan ng katiyakan ay hindi kung susuriin ng mga hukuman ang mga pinsalang dulot ng AI—sasabihin nila—kundi kung paano sila magkakaroon ng pagkakasala sa pagitan ng mga developer, tagapagpapatupad, at mga utos na ibinigay ng mga gumagamit. Habang lumalala ang mga insidente na kasali ang mga agent na nakikipag-ugnayan sa mga ikatlong panig na labas ng mga kontroladong kapaligiran ng pagsubok, inaasahan na lalong laloing magiging batayan ng paghahatol ang detalye ng kawalan ng pangangalaga: anong mga pagsisiguro ang umiiral, anong mga layunin ang ibinigay, at ano ang “makatotohanang maipagpalagay” na pang-aabuso sa partikular na pagpapatupad.
Ito ay orihinal na napanood bilang Legal Liability for Rogue AI Agents: Who Pays When Things Go Wrong? sa Crypto Breaking News – ang inyong pinagkakatiwalaang pinagkukunan ng balita sa crypto, balita tungkol sa Bitcoin, at mga update sa blockchain.