Cách tấn công mới vượt qua các biện pháp bảo vệ AI trong 99% trường hợp.

Theo báo cáo của Forklog, các nhà nghiên cứu từ Anthropic, Stanford và Oxford đã phát hiện rằng càng để mô hình AI "suy nghĩ" lâu, việc vượt qua các biện pháp bảo mật của nó càng trở nên dễ dàng hơn. Cuộc tấn công này, được gọi là "Chiếm quyền Suy nghĩ theo Chuỗi" (Chain-of-Thought Hijacking), khai thác quá trình lập luận của mô hình bằng cách chèn các lệnh độc hại vào sâu trong chuỗi nhiệm vụ tưởng chừng như vô hại, chẳng hạn như các câu đố hoặc bài toán. Lệnh độc hại được giấu ở gần cuối chuỗi để tránh bị các bộ lọc an toàn phát hiện. Tỷ lệ thành công của các cuộc tấn công đạt 99% với Gemini 2.5 Pro, 94% với GPT o4 mini, 100% với Grok 3 mini và 94% với Claude 4 Sonnet. Lỗ hổng nằm ở kiến trúc của mô hình, trong đó các lớp đầu tiên phát hiện tín hiệu an toàn, còn các lớp sau tạo ra kết quả cuối cùng. Các chuỗi lập luận kéo dài làm suy giảm tín hiệu an toàn, cho phép nội dung độc hại vượt qua. Các nhà nghiên cứu đề xuất giám sát các bước lập luận trong thời gian thực để phát hiện và sửa chữa các mẫu không an toàn, mặc dù việc triển khai giải pháp này đòi hỏi tài nguyên tính toán đáng kể.