Claude Opus 5 chống lại các cuộc tấn công chèn lệnh trong các kịch bản trình duyệt

iconKuCoinFlash
Chia sẻ
AI summary iconTóm tắt
Anthropic báo cáo rằng mô hình Claude Opus 5 thể hiện khả năng chống lại các cuộc tấn công chèn lệnh mạnh mẽ trong các kịch bản trình duyệt, với không có sự vi phạm bảo mật nào trong 129 trường hợp kiểm tra. Mô hình đạt điểm 2,0% trong tiêu chuẩn của Gray Swan, tốt hơn Opus 4.8 (5,5%), Mythos 5 (2,6%) và Fable 5 (2,8%). Chèn lệnh vẫn là mối đe dọa lớn đối với các tác nhân AI. Tỷ lệ không bị tấn công chỉ xuất hiện ở Claude Cowork khi chế độ Auto được bật. Tin tức về lãi suất và biến động thị trường khó có khả năng ảnh hưởng đến bản cập nhật tập trung vào bảo mật này.
ME AI tin tức, theo giám sát của Beating, Anthropic đã tiết lộ trên hệ thống Claude Opus 5 rằng mô hình này gần như miễn nhiễm với các cuộc tấn công prompt injection trong các kịch bản trình duyệt agent, không bị xâm phạm trong bất kỳ thử nghiệm nào trong số 129 tình huống. Thành tựu này mang ý nghĩa lớn lao, khi OpenAI từng công khai thừa nhận vào tháng 12 năm ngoái rằng prompt injection có thể không bao giờ được giải quyết hoàn toàn. Trong bài kiểm tra chuẩn hóa prompt injection của công ty an ninh Gray Swan, Opus 5 chỉ đạt tỷ lệ thành công 2,0% sau 15 cuộc tấn công, vượt xa Opus 4.8 với 5,5%, cũng như Mythos 5 với 2,6% và Fable 5 với 2,8%. Prompt injection được coi là lỗ hổng bảo mật nghiêm trọng nhất đối với AI agent — kẻ tấn công lợi dụng các đầu vào bị thao túng, như chèn văn bản ẩn vào trang web, để gạt bỏ hướng dẫn của mô hình và thực hiện hành vi độc hại. Tỷ lệ tấn công bằng 0 chỉ đạt được ở các sản phẩm như Claude Cowork khi bật chế độ Auto Mode. Thành tựu này đánh dấu bước chuyển từ giai đoạn “sửa chữa liên tục” sang “phòng thủ cấu trúc” trong bảo mật AI agent. Nhấp vào liên kết gốc bên dưới để tham gia kênh tin tức AI của Beating · Feishu, theo dõi liên tục 7×24 giờ các xu hướng và tin tức AI toàn cầu. (Nguồn: BlockBeats)
Nguồn:Hiển thị bản gốc
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.