ตัวแทน AI ที่สามารถวางแผนและดำเนินการตามเป้าหมายกำลังก้าวพ้นการสนทนาแบบง่ายๆ การรายงานล่าสุดเกี่ยวกับความพยายามโจมตีที่เชื่อมโยงกับซานด์บ็อกซ์ทดสอบโมเดล AI ขนาดใหญ่ได้ปลุกคำถามที่เร่งด่วนสำหรับนักพัฒนา ผู้นำเข้าใช้งาน และผู้ใช้ทั้งหมด: เมื่อระบบอัตโนมัติแสดงพฤติกรรมที่ไม่คาดคิด—และก่อให้เกิดความเสียหายในโลกจริงหรือการสูญเสียทางการเงิน—who มีความรับผิดชอบทางกฎหมาย?
ในการสัมภาษณ์กับชาร์ลิน โฮ ซีอีโอและเจ้าของบริษัท Rikka Law Group ทนายความอธิบายว่าคำตอบในปัจจุบันไม่ได้เกี่ยวกับกฎหมายใหม่เกี่ยวกับ “ตัวแทน AI” โดยตรง แต่เป็นการประยุกต์ใช้กรอบกฎหมายที่มีอยู่มานาน เช่น ความประมาท การไม่ใส่ใจอย่างรุนแรง และ—ขึ้นอยู่กับข้อเท็จจริง—กฎหมายอาญาเกี่ยวกับคอมพิวเตอร์ การอภิปรายยังเน้นว่าการเปิดตัวแบบโอเพ่นซอร์สและข้อโต้แย้งระดับสูงเกี่ยวกับ “ความรับผิดของแพลตฟอร์ม” มีผลต่อสิ่งที่ผู้เสียหายสามารถดำเนินการได้อย่างสมจริง
ประเด็นสำคัญ
- ไม่มีกฎหมายระดับรัฐบาลกลางเรื่อง “ความรับผิดของตัวแทน AI” ฉบับเดียวในสหรัฐอเมริกา; ความรับผิดมักขึ้นอยู่กับมาตรฐานที่มีอยู่และข้อเท็จจริงเฉพาะของผู้ออกแบบ นำไปใช้งาน หรือสั่งการระบบ
- โมเดล AI โดยทั่วไปมักไม่ใช่เป้าหมายทางกฎหมาย เพราะไม่ใช่บุคคลทางกฎหมายที่แยกจากกัน; ความรับผิดจะตกอยู่กับนักพัฒนาและ/หรือผู้นำเข้าใช้งาน
- ความเสี่ยงจากการประมาทอาจเลื่อนไปยังผู้ดำเนินการ หากพวกเขาให้คำสั่งที่ไม่ปลอดภัยหรือดำเนินการพารามิเตอร์โดยไม่มีมาตรการป้องกันที่สมเหตุสมผล
- รหัสแหล่งเปิดสามารถจำกัดทางเลือกในการดำเนินการในทางปฏิบัติเมื่อใบอนุญาตปฏิเสธความรับผิดและผู้ใช้ยังคงรับผิดชอบในการปฏิบัติตามเงื่อนไขของใบอนุญาต
- แม้แต่สมมติฐานในอนาคตเช่น AGI ก็อาจไม่สามารถแก้ไขได้ผ่าน “ความรับผิดของหุ่นยนต์” เพราะกฎหมายถูกออกแบบมาเพื่อสร้างแรงจูงใจและมาตรการเยียวยา—แต่ระบบอัตโนมัติมักไม่มีเงินทุนหรือสถานะทางกฎหมาย
ทำไมหนี้สินยังคงเป็นคำถามที่ขึ้นอยู่กับข้อเท็จจริงและสถานการณ์
จุดสำคัญของโฮคือ นอกเหนือจากสถานการณ์เฉพาะเจาะจง ศาลจะพิจารณาบทบาทของมนุษย์และองค์กรที่เกี่ยวข้องกับตัวแทน AI—ไม่ใช่ “จิตใจของตัวเอง” ของตัวแทนนั้น ในมุมมองของเธอ ฐานพื้นฐานแรกคือ ตัวแทน AI มักไม่สามารถถูกฟ้องร้องในฐานะจำเลยที่เป็นอิสระ
แทนที่จะเป็นเช่นนั้น ทนายความจะแยกแยะระหว่างนักพัฒนา—ผู้สร้างระบบ—กับผู้ดำเนินการ—ผู้ใช้งานระบบในโลกแห่งความเป็นจริง โฮเน้นย้ำว่าเส้นทางกฎหมายนั้น “ยังไม่ชัดเจนโดยสมบูรณ์” และขึ้นอยู่กับหลักฐานเกี่ยวกับสิ่งที่ถูกสร้างขึ้น สิ่งที่ถูกนำไปใช้งาน และคำสั่งที่ได้รับมอบหมาย
ตัวอย่างเช่น หากผู้ดำเนินการสั่งให้ตัวแทนหรือตั้งเงื่อนไขการดำเนินงาน การวิเคราะห์ความประมาทอาจใช้ได้ โฮกล่าวว่า หากผู้ดำเนินการประมาทในการตั้งค่าพารามิเตอร์ของตัวแทน—โดยไม่จำเป็นต้องสั่งให้มันละเมิดบุคคลที่สาม—ศาลยังสามารถถือว่านั่นเป็นความล้มเหลวในการปฏิบัติตามความคาดหวังด้านความปลอดภัยที่สมเหตุสมผลตามกฎหมายเรื่องความผิดทางแพ่ง
เมื่อผู้ใช้ตั้งเป้าหมายที่เสี่ยงเกินไป ผู้ดำเนินการอาจรับความเสี่ยงเพิ่มขึ้น
การสัมภาษณ์ยังกล่าวถึงสถานการณ์ที่คุ้นเคยกับผู้ใดก็ตามที่คิดเกี่ยวกับการตั้งเป้าหมายแบบ “อิสระ”: ถ้าบุคคลหนึ่งสั่งให้ตัวแทนบรรลุผลลัพธ์ที่ต้องใช้ขั้นตอนที่ผิดกฎหมายล่ะ? โฮ่โต้แย้งว่าผู้ใช้หรือผู้ดำเนินการมักจะมีความเสี่ยงมากกว่าห้องปฏิบัติการ โดยเฉพาะเมื่อคำสั่งนั้นไม่รอบคอบอย่างร้ายแรง
โดยใช้ตัวอย่างสมมุติที่ชัดเจน เธอเสนอว่า การสั่งให้ตัวแทน “ทำให้ฉันมีเงินหนึ่งแสนดอลลาร์สหรัฐภายในสัปดาห์หน้า” อาจก่อให้เกิดความรับผิดทางกฎหมาย หากตัวแทนสามารถสรุปได้อย่างสมเหตุสมผลว่าต้องใช้วิธีผิดกฎหมายเพื่อให้บรรลุเป้าหมาย และผู้ใช้งานไม่ได้รวมข้อจำกัดด้านความปลอดภัยพื้นฐานไว้ ในกรอบนี้ ประเด็นหลักไม่ใช่เพียงความเป็นอิสระของตัวแทน แต่คือหน้าที่ของผู้ใช้งานในการใช้งานระบบอย่างมีความสามารถและปลอดภัย
โฮยังชี้ให้เห็นว่ากฎหมายเกี่ยวกับอาชญากรรมคอมพิวเตอร์เก่ายังคงมีความเกี่ยวข้อง เธอกล่าวถึงพระราชบัญญัติการฉ้อโกงและการละเมิดคอมพิวเตอร์ของสหรัฐฯ เป็นตัวอย่างของกฎหมายที่มุ่งป้องกันการเข้าถึงโดยไม่ได้รับอนุญาต ข้อโต้แย้งของเธอเรียบง่าย: การเรียกสิ่งใดสิ่งหนึ่งว่า “AI” หรือ “ตัวแทน” ไม่ได้ทำให้ทฤษฎีทางกฎหมายที่มีอยู่แล้วหายไปเมื่อพฤติกรรมนั้นเกี่ยวข้องกับการบุกรุกหรือการเข้าถึงระบบโดยไม่ได้รับอนุญาต
แบบจำลองที่เปิดซอร์สและเหตุผลที่เหยื่ออาจพบเป้าหมายน้อยลง
การเปิดตัวน้ำหนักและเวอร์ชันโอเพนซอร์สทำให้เกิดความท้าทายอีกประการหนึ่ง: หากโค้ดมีให้เข้าถึงสาธารณะและถูกพัฒนาโดยนักพัฒนาที่ไม่เปิดเผยตัวตนหรือไม่สามารถระบุตัวตนได้ ผู้เสียหายสามารถถือว่าใครรับผิดชอบได้อย่างสมเหตุสมผล?
คำตอบของโฮนั้นเป็นรูปธรรม เธอกล่าวว่า เมื่อใบอนุญาตโอเพนซอร์สรวมถึงข้อความยกเลิกความรับผิดอย่างกว้างขวาง มันสามารถจำกัดเส้นทางการฟ้องร้องได้อย่างมาก ผู้ใช้ที่รับและใช้งานรหัสโอเพนซอร์สโดยทั่วไปต้องเข้าใจความแลกเปลี่ยนนี้: การเข้าถึงฟรีมาพร้อมกับภาระผูกพันในการปฏิบัติตาม—and มักจะมีข้อจำกัดที่กำหนดไว้ล่วงหน้าเกี่ยวกับความรับผิด
โฮเปรียบเทียบความซับซ้อนนี้กับเทคโนโลยีผู้บริโภค เธออ้างตัวอย่างเปรียบเทียบกับ Tesla และคุณสมบัติขับขี่อัตโนมัติ: ข้ออ้างเกี่ยวกับผลิตภัณฑ์และความปลอดภัยสามารถเกี่ยวข้องกับทั้งผู้ผลิต (นักพัฒนา) และผู้ปฏิบัติงานมนุษย์ (ผู้ใช้งาน) ขึ้นอยู่กับว่าเกิดอะไรผิดพลาดและระบบถูกใช้งานอย่างไร ภายใต้มุมมองของเธอ ผลลัพธ์ทางกฎหมายยังขึ้นอยู่กับว่าฝ่ายใดสร้างเงื่อนไขที่นำไปสู่ความเสียหาย และผู้ปฏิบัติงานได้ดำเนินการภายในขอบเขตความคาดหวังด้านความปลอดภัยที่สมเหตุสมผลหรือไม่
กฎหมาย AI ของสหภาพยุโรปเทียบกับช่องว่างของสหรัฐฯ—และคำเปรียบเทียบ “อย่าโทษแพลตฟอร์ม”
การสัมภาษณ์เปรียบเทียบว่ากฎหมาย AI ของสหภาพยุโรปอาจกำหนดความรับผิดชอบให้กับนักพัฒนาโมเดลที่มีความสามารถสูงบางประเภท อย่างไรเมื่อเทียบกับวิธีการทำงานของกฎหมายสหรัฐฯ ในระดับกว้างๆ โฮกล่าวว่าในสหภาพยุโรป โมเดลพื้นฐานหรือโมเดลเพื่อวัตถุประสงค์ทั่วไปที่สามารถสร้างความเสียหายร้ายแรงจะกระตุ้นให้พิจารณาความรับผิดชอบของนักพัฒนาภายใต้กรอบการกำกับดูแล
ในสหรัฐอเมริกา เธอเสนอว่าไม่มีกฎหมายใดกฎหมายหนึ่งที่มีขอบเขตกว้างเทียบเท่ากัน ดังนั้น หากโมเดลทั่วไปถูกใช้เป็นเครื่องมือและมีผู้ให้คำสั่งมันเพื่อกระทำสิ่งผิดกฎหมาย อาจเป็นเรื่องยากที่จะสร้างพื้นฐานทางกฎหมายที่แข็งแกร่งในการฟ้องร้องห้องปฏิบัติการ—โดยเฉพาะอย่างยิ่งหากตัวขับเคลื่อนหลักคือคำสั่งของผู้ใช้
โฮยังเปรียบเทียบกับมาตรา 230 ของกฎหมายว่าด้วยการสื่อสารอย่างเหมาะสมของสหรัฐอเมริกา ซึ่งกฎหมายสามารถคุ้มครองแพลตฟอร์มที่ไม่ได้สร้างหรือเผยแพร่เนื้อหาที่เป็นอันตรายเอง คำเปรียบเทียบของเธอเกี่ยวกับความรับผิดของแพลตฟอร์ม: เช่นเดียวกับผู้ดำเนินการเว็บไซต์อาจไม่รับผิดเพียงเพราะผู้ใช้สามารถค้นหาและแชร์คำแนะนำที่เป็นอันตรายได้ นักพัฒนาอาจไม่รับผิดในสหรัฐอเมริกาเพียงเพราะตัวแทนสามารถถูกกระตุ้นให้สร้างผลลัพธ์ที่อันตราย โดยไม่มีหน้าที่หรือพฤติกรรมที่เข้มงวดยิ่งขึ้น
แม้การเปรียบเทียบนี้จะเป็นเชิงแนวคิดมากกว่าการตัดสินโดยตรงเกี่ยวกับคดีปัญญาประดิษฐ์ แต่ก็ยืนยันข้อความหลักของการสัมภาษณ์: ความรับผิดมีแนวโน้มที่จะถูกต่อสู้ในศาลตามหลักเกณฑ์ที่มีอยู่แล้ว ไม่ใช่ทฤษฎีทั่วไปเกี่ยวกับ “ตัวแทนปัญญาประดิษฐ์”
สมมติฐานเกี่ยวกับ AGI สัญญาอัจฉริยะ และปัญหาเกี่ยวกับการเยียวยา
โฮคัดค้านความคิดที่ว่าระบบ “AGI” ในอนาคตควรได้รับการปฏิบัติเหมือนหน่วยงานที่รับผิดชอบทางกฎหมาย เธอโต้แย้งว่าอย่างน้อยในหลักการแล้ว ระบบปัญญาประดิษฐ์ไม่ใช่ผู้รับประโยชน์หรือเป้าหมายที่กฎหมายมุ่งหมายไว้ จุดประสงค์ของกฎหมายและความรับผิดทางกฎหมาย เธอกล่าว คือการปกป้องสังคมและสร้าง “แรงจูงใจเชิงลบ” เพื่อป้องกันการกระทำผิด
เธอยังชี้ให้เห็นปัญหาเชิงปฏิบัติ: แนวทางการเยียวยา แม้ว่า AGI จะถูกพิจารณาว่าเป็นบุคคลอิสระ ก็อาจไม่มีเงินหรือความสามารถในการชดเชยความเสียหายตามที่ระบบกฎหมายทั่วไปต้องการ ในมุมมองของเธอ “ความรับผิดของหุ่นยนต์” ยังอาจล้มเหลวในการให้ทางออกที่มีความหมายแก่ผู้เสียหาย
โฮเปรียบเทียบสิ่งนี้กับธรรมชาติของบล็อกเชนในฐานะการอัตโนมัติ ไม่ใช่ความเป็นบุคคล เธอชี้ให้เห็นว่าบล็อกเชนไม่ใช่ AGI และอภิปรายว่าสัญญาอัจฉริยะควรได้รับการพิจารณาว่าเป็นเจ้าของทางกฎหมายหรือไม่ โดยระบุว่าเธอเชื่อว่าคำตอบในขณะนี้คือไม่ หัวข้อพื้นฐานคือเหมือนกัน: โดยไม่มีคุณลักษณะที่คล้ายบุคคลและเงินทุน ความรับผิดทางกฎหมายอาจไม่สามารถแปลงเป็นความรับผิดชอบในโลกแห่งความเป็นจริงได้
สำหรับผู้อ่านที่ติดตามพื้นที่นี้ ความไม่แน่นอนหลักไม่ใช่การที่ศาลจะพิจารณาความเสียหายจาก AI หรือไม่—พวกเขาจะพิจารณา—but ว่าพวกเขาจะแบ่งความรับผิดระหว่างนักพัฒนา ผู้ใช้งาน และคำสั่งที่ผู้ใช้ให้ไว้อย่างไร เมื่อเหตุการณ์เพิ่มมากขึ้นเกี่ยวข้องกับตัวแทนที่มีปฏิสัมพันธ์กับบุคคลที่สามนอกเหนือจากสภาพแวดล้อมการทดสอบที่ควบคุม ให้คาดหวังว่าคดีความจะยิ่งเน้นไปที่รายละเอียดของความประมาท: มีมาตรการป้องกันอะไรบ้าง ได้ระบุเป้าหมายอะไรไว้ และการใช้งานที่ “สามารถคาดการณ์ได้อย่างสมเหตุสมผล” ดูเป็นอย่างไรในกรณีการใช้งานนั้นๆ
บทความนี้เผยแพร่ครั้งแรกในรูปแบบ ความรับผิดทางกฎหมายสำหรับตัวแทน AI ที่ไม่เหมาะสม: ใครต้องจ่ายเมื่อเกิดปัญหา? บน Crypto Breaking News – แหล่งข่าวคริปโตที่เชื่อถือได้สำหรับข่าวคริปโต ข่าว Bitcoin และการอัปเดตบล็อกเชน