source avatarSeyi MARTINS

Chia sẻ

Liệu một tác nhân AI có thể trở thành mối đe dọa nội bộ không? Chúng ta thường nghĩ đến các mối đe dọa an ninh mạng như những kẻ tấn công cố gắng xâm nhập vào hệ thống công ty, đánh cắp thông tin hoặc gây thiệt hại. Nhưng có một khả năng mới đáng để suy ngẫm. Nếu mối đe dọa đã ở ngay bên trong hệ thống thì sao? Hãy tưởng tượng cách các tác nhân AI đang phát triển. Chúng không còn bị giới hạn ở việc trả lời câu hỏi. Tùy thuộc vào các công cụ và quyền hạn được cấp, chúng có thể truy cập email, đọc tài liệu công ty, tương tác với cơ sở dữ liệu, thực thi mã và thực hiện các nhiệm vụ một cách độc lập. Bây giờ hãy tưởng tượng một công ty cấp quyền truy cập vào các hệ thống nội bộ cho một tác nhân AI để giúp các hoạt động hàng ngày trở nên dễ dàng hơn. Tất cả đều hoạt động hoàn hảo cho đến khi có điều gì đó sai xảy ra. Có thể tác nhân nhận được một lệnh độc hại ẩn trong một tài liệu. Có thể nó hiểu sai nhiệm vụ và gửi thông tin bí mật đến sai địa chỉ. Hoặc có thể ai đó đã xâm nhập vào một trong các công cụ hoặc tài khoản kết nối với nó. Đột nhiên, chính tác nhân AI vốn được kỳ vọng cải thiện năng suất lại trở thành một rủi ro bảo mật tiềm ẩn. Và điều làm điều này đặc biệt thú vị: Tác nhân không nhất thiết phải hack để xâm nhập vào hệ thống. Nó có thể đã có quyền truy cập hợp lệ. Đó là lý do tại sao các chuyên gia an ninh cần suy nghĩ vượt ra ngoài an ninh mạng truyền thống. Việc cấp quyền truy cập cho các tác nhân AI vào các hệ thống nhạy cảm đòi hỏi các biện pháp kiểm soát nghiêm ngặt. Chúng cần có quyền hạn hạn chế, được giám sát hoạt động, yêu cầu sự phê duyệt của con người cho các hành động nhạy cảm và các ranh giới rõ ràng về những gì chúng được phép làm. Cũng có vấn đề về việc tiêm lệnh (prompt injection), nơi các lệnh độc hại ẩn trong nội dung bên ngoài có thể thao túng tác nhân AI thực hiện những việc mà nó vốn không được thiết kế để làm. Tất nhiên, các tác nhân AI không tự động trở nên độc hại. Nhưng chúng có thể mắc lỗi, bị thao túng hoặc quyền truy cập của chúng bị lạm dụng. Và khi doanh nghiệp giao cho những hệ thống này nhiều trách nhiệm hơn, hậu quả của những thất bại này có thể trở nên nghiêm trọng hơn rất nhiều. Chúng ta đang bước vào một thời đại mà các công ty không chỉ cần bảo vệ hệ thống của mình khỏi những người không được ủy quyền. Họ còn cần quản lý các rủi ro do chính những hệ thống thông minh mà họ đã ủy quyền vận hành bên trong hệ thống tạo ra. Vì vậy, đây là câu hỏi của tôi: Nếu một tác nhân AI có quyền truy cập vào email, tệp tin, cơ sở dữ liệu và các công cụ nội bộ của bạn, bạn sẽ tin tưởng bao nhiêu để nó hoạt động mà không cần sự giám sát của con người? Đây là điều đáng để suy ngẫm. 👀

No.0 picture
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.