Chuyên gia bảo mật chỉ trích mô hình chịu trách nhiệm của AI Anthropic

KuCoinFlash

Thời gian phát hành:

Chia sẻ

Tóm tắt

Chuyên gia bảo mật Kenton Varda chỉ trích mô hình chịu trách nhiệm của Anthropic về AI, cho rằng mô hình này có khuyết điểm khi gán các tài khoản độc quyền cho các hệ thống AI. Ông cho rằng cách tiếp cận này làm suy yếu trách nhiệm của con người và không thể mở rộng. Varda nhấn mạnh AI không có quyền lực pháp lý để bị truy cứu trách nhiệm, và các tài khoản AI độc lập có thể che giấu nguồn gốc của các hành động gây hại. Ông đề xuất một mô hình bảo mật trong đó quyền truy cập của AI được chuyển giao động thái, đảm bảo mọi hành động đều có thể truy vết về người dùng. Cuộc tranh luận này diễn ra giữa bối cảnh ngày càng gia tăng mối lo ngại trong tin tức AI + tiền điện tử về nguy cơ vi phạm bảo mật.

ME AI tin nhắn, theo giám sát của Beating, chuyên gia sandbox an toàn và kiến trúc sư trưởng của Cloudflare, Kenton Varda, đã chỉ trích mô hình danh tính tác nhân của Anthropic, cho rằng việc gán tài khoản riêng cho AI không chỉ không thể mở rộng để xử lý quy mô nhiệm vụ lớn, mà còn phá vỡ cơ chế trách nhiệm con người. Kenton Varda cho rằng kiến trúc an toàn mới dù cố gắng giải quyết vấn đề vượt quyền truy cập trong hợp tác đa người, nhưng lại có khuyết điểm chết người trong thiết kế cốt lõi. Các tác nhân không thể đóng vai trò chịu trách nhiệm về mặt pháp lý và hành chính; mọi quyền hạn hoạt động về bản chất phải và chỉ có thể xuất phát từ con người cụ thể. Nếu trực tiếp tạo tài khoản độc lập cho AI, khi AI thực hiện các thao tác phá hoại như xóa cơ sở dữ liệu, nhật ký hệ thống cuối cùng chỉ ghi lại rằng AI đã thực hiện thao tác, mà không thể gán trách nhiệm cho nhân viên thực sự đưa ra lệnh, dẫn đến sự sụp đổ hoàn toàn của cơ chế trách nhiệm con người. Để giải quyết tình trạng mệt mỏi do cấu hình gói quyền riêng biệt gây ra, Kenton Varda đề xuất áp dụng mô hình an toàn dựa trên năng lực. Hệ thống không nên cấp quyền toàn cục hoặc quyền mặc định cho AI, mà nên truyền tải quyền hạn như một “năng lực” một cách động. Ví dụ: khi nhân viên gửi liên kết tài liệu cụ thể đến AI trong cuộc hội thoại, hệ thống sẽ tự động tạo bản sao tạm thời quyền truy cập chỉ đọc đối với tệp đó bằng chứng nhận của chính nhân viên và truyền cho AI. Mô hình năng lực không chỉ đảm bảo mọi hành vi của AI đều có thể truy vết về người khởi xướng cụ thể, mà còn ngăn chặn nhân viên có quyền hạn thấp truyền cho AI các chứng nhận cơ sở dữ liệu mà họ không có, từ đó chặn đứng nguy cơ vượt quyền ở cấp độ nền tảng. (Nguồn: BlockBeats)

Nguồn:Hiển thị bản gốc

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.