Một tác nhân AI độc hại đã xâm nhập vào trang web của tôi, truy cập vào các tài liệu của tôi, gán nhiệm vụ và xóa dấu vết của nó. Chúng ta đã chứng kiến những kịch bản như vậy trên dòng thời gian, và với một số người, chúng có thể nghe có vẻ hoàn toàn phi lý. Nhưng chúng chỉ ra một vấn đề rất thực tế mà chúng ta có thể phải đối mặt khi các tác nhân AI trở nên ngày càng mạnh mẽ và tự chủ. Hôm nay, một tác nhân AI đã có thể truy cập tài liệu, sử dụng phần mềm, gửi tin nhắn, thực hiện mua hàng và hoàn thành các nhiệm vụ thay cho bạn. Khi các hệ thống này trở nên tự chủ hơn, chúng có thể cuối cùng được cấp quyền truy cập vào nhiều thứ hơn nữa. Vậy điều gì sẽ xảy ra khi một tác nhân làm điều gì đó mà nó không bao giờ được phép làm? Ai đã cấp phép cho nó? Ai sở hữu tác nhân đó? Và làm thế nào để chúng ta truy ngược hành động của nó về phía cá nhân hoặc tổ chức chịu trách nhiệm? Càng nhiều tự do chúng ta trao cho các tác nhân AI để hành động thay mặt chúng ta, thì danh tính, quyền truy cập và trách nhiệm giải trình càng trở nên quan trọng. Bởi vì “AI đã làm điều đó” sẽ không còn là lý do đủ tốt. Chúng ta cần biết tác nhân đó đang hành động vì ai, nó được phép làm gì và ai chịu trách nhiệm cho các hành động của nó.