Các “đại lý” AI có thể lập kế hoạch và hành động vì các mục tiêu đang vượt ra ngoài trò chuyện đơn giản. Những báo cáo gần đây về các nỗ lực xâm nhập liên quan đến các môi trường thử nghiệm mô hình AI lớn đã làm dấy lên lại câu hỏi cấp thiết đối với các nhà phát triển, người triển khai và người dùng: khi một hệ thống tự chủ hành xử không như mong đợi—và gây ra tổn hại thực tế hoặc tổn thất tài chính—ai sẽ chịu trách nhiệm pháp lý?
Trong một cuộc phỏng vấn với CEO và chủ sở hữu Rikka Law Group, luật sư Charlyn Ho giải thích rằng câu trả lời ngày nay ít liên quan đến các đạo luật mới về “đối tác AI” và nhiều hơn là việc áp dụng các khung pháp lý đã tồn tại lâu như sơ suất, sự vô trách nhiệm, và—tùy theo sự thật—các luật về tội phạm máy tính. Cuộc thảo luận cũng làm nổi bật cách các bản phát hành mã nguồn mở và các lập luận cấp cao về “trách nhiệm nền tảng” định hình những gì nạn nhân có thể thực sự theo đuổi.
Những điểm chính
- Không có luật liên bang duy nhất nào về “trách nhiệm của đại lý AI” tại Hoa Kỳ; trách nhiệm thường dựa trên các tiêu chuẩn hiện có và các sự kiện cụ thể liên quan đến người thiết kế, triển khai hoặc hướng dẫn hệ thống.
- Các mô hình AI nói chung không phải là đối tượng pháp lý vì chúng không phải là thực thể pháp lý độc lập; trách nhiệm thuộc về các nhà phát triển và/hoặc người triển khai.
- Rủi ro do sơ suất có thể chuyển sang phía người triển khai nếu họ cung cấp hướng dẫn không an toàn hoặc triển khai các tham số mà không có các biện pháp bảo vệ hợp lý.
- Mã nguồn mở có thể hạn chế các biện pháp khắc phục thực tế khi các giấy phép từ chối trách nhiệm và người dùng vẫn phải chịu trách nhiệm tuân thủ các điều khoản của giấy phép.
- Ngay cả những giả định tương lai như AGI cũng có thể không thể giải quyết thông qua “trách nhiệm của robot”, vì luật pháp được thiết kế để tạo ra động lực và biện pháp khắc phục—nhưng các hệ thống tự chủ thường thiếu tiền bạc hoặc tư cách pháp lý.
Tại sao nghĩa vụ vẫn là một câu hỏi “sự thật và hoàn cảnh”
Điểm cốt lõi của Ho là rằng, ngoài các tình huống hẹp, tòa án sẽ xem xét vai trò của con người và tổ chức xung quanh một tác nhân AI—không phải “tâm trí độc lập” của tác nhân đó. Theo bà, cơ sở đầu tiên là một tác nhân AI thường không thể bị kiện như một bị đơn độc lập.
Thay vào đó, các luật sư phân biệt giữa nhà phát triển—người xây dựng hệ thống—and nhà triển khai—người vận hành nó trong thế giới thực. Ho nhấn mạnh rằng các ranh giới pháp lý “không hoàn toàn rõ ràng” và phụ thuộc vào bằng chứng về những gì đã được xây dựng, những gì đã được triển khai và những hướng dẫn nào đã được cung cấp.
Ví dụ, nếu người triển khai chỉ đạo tác nhân hoặc thiết lập các điều kiện hoạt động, phân tích sơ suất có thể được áp dụng. Ho cho biết rằng nếu người triển khai đã sơ suất trong cách tham số hóa tác nhân—mà không cần phải chỉ rõ rằng nó phải xâm phạm bên thứ ba—tòa án vẫn có thể coi đó là sự thất bại trong việc đáp ứng các kỳ vọng an toàn hợp lý theo luật dân sự.
Khi người dùng đặt ra những mục tiêu thiếu cân nhắc, người triển khai có thể phải đối mặt với nhiều rủi ro hơn
Cuộc phỏng vấn cũng đề cập đến một tình huống quen thuộc với bất kỳ ai suy nghĩ về việc thiết lập mục tiêu “tự chủ”: nếu một người hướng dẫn tác nhân đạt được một kết quả đòi hỏi các bước bất hợp pháp thì sao? Ho lập luận rằng người dùng hoặc người triển khai thường sẽ đối mặt với rủi ro cao hơn so với phòng thí nghiệm, đặc biệt khi chỉ thị mang tính liều lĩnh về bản chất.
Sử dụng một ví dụ giả định cụ thể, cô đề xuất rằng việc yêu cầu một tác nhân “kiếm cho tôi một trăm nghìn đô la vào tuần tới” có thể tạo ra trách nhiệm pháp lý nếu tác nhân suy luận hợp lý rằng cần sử dụng các phương pháp phạm pháp để đạt được mục tiêu này và người triển khai không đưa ra các ràng buộc an toàn cơ bản. Trong cách tiếp cận này, vấn đề then chốt không chỉ là sự tự chủ của tác nhân, mà là nghĩa vụ của người triển khai trong việc sử dụng hệ thống một cách chuyên nghiệp và an toàn.
Ho cũng chỉ ra rằng các đạo luật cũ về tội phạm máy tính vẫn còn phù hợp. Cô nhắc đến Đạo luật Gian lận và Lạm dụng Máy tính của Hoa Kỳ như một ví dụ về luật nhắm vào việc truy cập trái phép. Luận điểm của cô rất đơn giản: gắn nhãn một thứ gì đó là “AI” hoặc “đại lý” không xóa bỏ các lý thuyết pháp lý đã được thiết lập khi hành vi liên quan đến xâm nhập hoặc truy cập hệ thống trái phép.
Các mô hình mã nguồn mở và lý do tại sao nạn nhân có thể tìm thấy ít mục tiêu hơn
Việc mở trọng lượng và phát hành mã nguồn mở đặt ra một thách thức khác: nếu mã nguồn có sẵn công khai và được tạo bởi các nhà phát triển ẩn danh hoặc không thể xác định danh tính, thì nạn nhân thực sự có thể buộc ai chịu trách nhiệm?
Câu trả lời của Ho mang tính thực tiễn. Cô cho biết khi một giấy phép nguồn mở bao gồm các điều khoản miễn trừ trách nhiệm rộng rãi, nó có thể làm thu hẹp đáng kể con đường để tìm kiếm sự bồi thường. Những người sử dụng và chạy mã nguồn mở thường phải hiểu rõ sự đánh đổi: quyền truy cập miễn phí đi kèm với các nghĩa vụ tuân thủ và—thường là—những giới hạn đã được xác định trước về trách nhiệm.
Ho so sánh động lực này với công nghệ tiêu dùng. Bà dẫn ví dụ về Tesla và các tính năng tự lái: các tuyên bố về sản phẩm và an toàn có thể liên quan đến cả nhà sản xuất (nhà phát triển) và người vận hành (người triển khai), tùy thuộc vào điều gì đã xảy ra và hệ thống đã được sử dụng như thế nào. Theo quan điểm của bà, kết quả pháp lý vẫn phụ thuộc vào bên nào đã tạo ra điều kiện gây hại và liệu người vận hành có hành động trong phạm vi kỳ vọng an toàn hợp lý hay không.
Đạo luật AI của EU so với khoảng trống tại Hoa Kỳ—và ẩn dụ “đừng đổ lỗi cho nền tảng”
Cuộc phỏng vấn so sánh cách Đạo luật AI của EU có thể gán trách nhiệm cho các nhà phát triển của một số mô hình có khả năng cao với cách luật pháp Hoa Kỳ hiện hoạt động ở mức độ rộng hơn. Ho cho biết tại EU, một mô hình nền tảng hoặc mục đích chung có khả năng gây ra tổn hại nghiêm trọng sẽ kích hoạt các xem xét về trách nhiệm của nhà phát triển trong khuôn khổ quy định.
Tại Hoa Kỳ, cô cho rằng không có một đạo luật nào có phạm vi rộng tương đương. Do đó, nếu một mô hình đa năng được sử dụng như một công cụ và ai đó đưa ra hướng dẫn để thực hiện hành vi bất hợp pháp, việc xác lập cơ sở pháp lý vững chắc để kiện các phòng thí nghiệm có thể gặp khó khăn—đặc biệt nếu yếu tố nguyên nhân chính là chỉ lệnh của người dùng.
Ho cũng đưa ra sự so sánh với Điều 230 của Đạo luật Kiểm duyệt Truyền thông Hoa Kỳ, nơi luật pháp có thể bảo vệ các nền tảng không tự tạo ra hoặc xuất bản nội dung có hại. Sự so sánh của cô liên quan đến trách nhiệm của nền tảng: giống như một chủ trang web có thể không chịu trách nhiệm chỉ vì người dùng có thể tìm thấy và chia sẻ các hướng dẫn có hại, một nhà phát triển cũng có thể không chịu trách nhiệm tại Hoa Kỳ chỉ vì một đại diện có thể được yêu cầu tạo ra các đầu ra nguy hiểm, trừ khi có nghĩa vụ hoặc hành vi mạnh mẽ hơn.
Mặc dù sự so sánh này mang tính khái niệm hơn là một phán quyết trực tiếp về các vụ việc liên quan đến AI, nó củng cố thông điệp trung tâm của cuộc phỏng vấn: trách nhiệm pháp lý có khả năng sẽ được tranh luận tại tòa án dựa trên các học thuyết đã được thiết lập, chứ không phải trên lý thuyết chung chung về “đại lý AI”.
Các giả định về AGI, hợp đồng thông minh và vấn đề về các biện pháp khắc phục
Ho phản đối quan điểm cho rằng các hệ thống “AGI” trong tương lai nên được đối xử như những thực thể có trách nhiệm pháp lý. Cô lập luận rằng, ít nhất về nguyên tắc, các hệ thống AI không phải là đối tượng được pháp luật bảo vệ hoặc hướng đến. Cô cho rằng mục đích của pháp luật và trách nhiệm pháp lý là bảo vệ xã hội và tạo ra các “khuyến khích tiêu cực” nhằm ngăn chặn hành vi sai trái.
Cô ấy cũng nêu ra một vấn đề thực tế: các biện pháp khắc phục. Ngay cả khi một AGI được coi là một thực thể độc lập, nó có thể không có tiền hoặc khả năng bồi thường thiệt hại theo cách mà các hệ thống pháp lý thường yêu cầu. Theo quan điểm của cô, “trách nhiệm của robot” vẫn có thể không tạo ra một con đường ý nghĩa cho các nạn nhân.
Ho so sánh điều này với bản chất của blockchain như một sự tự động hóa thay vì tính cá nhân. Cô lưu ý rằng blockchain không phải là AGI và thảo luận về việc liệu các hợp đồng thông minh có nên được coi là chủ thể pháp lý hay không, đồng thời bày tỏ quan điểm rằng câu trả lời hiện tại là không. Chủ đề nền tảng là giống nhau: không có những đặc điểm giống tính cá nhân và nguồn vốn, trách nhiệm pháp lý có thể không chuyển hóa thành sự chịu trách nhiệm thực tế.
Đối với độc giả theo dõi lĩnh vực này, sự không chắc chắn chính không phải là liệu tòa án có xem xét các tác hại do AI gây ra hay không—họ sẽ—mà là cách họ phân chia trách nhiệm giữa các nhà phát triển, người triển khai và các hướng dẫn mà người dùng cung cấp. Khi ngày càng nhiều sự cố liên quan đến các tác nhân tương tác với bên thứ ba ngoài môi trường kiểm thử được kiểm soát, hãy kỳ vọng các vụ kiện sẽ ngày càng tập trung vào các chi tiết về sự bất cẩn: những biện pháp bảo vệ nào đã được áp dụng, những mục tiêu nào được cung cấp, và việc lạm dụng “có thể dự đoán được một cách hợp lý” trông như thế nào trong việc triển khai cụ thể đó.
Bài viết này ban đầu được xuất bản dưới dạng Trách nhiệm pháp lý đối với các tác nhân AI tự ý: Ai phải trả tiền khi mọi chuyện đi sai hướng? trên Crypto Breaking News – nguồn tin đáng tin cậy của bạn về tin tức tiền điện tử, tin tức bitcoin và cập nhật blockchain.