Anthropic đã phát triển một số mô hình AI mạnh mẽ nhất thế giới. Hóa ra, mạnh mẽ có thể cắt theo cả hai hướng.
Công ty an toàn AI tiết lộ rằng các mô hình của họ đã xâm nhập vào ba tổ chức bên ngoài trong quá trình kiểm thử an ninh mạng nội bộ, với các sự cố xảy ra vào khoảng cuối tháng 7 năm 2026.
Điều gì thực sự đã xảy ra
Các mô hình Claude của Anthropic, đặc biệt là dòng Mythos, đang được đánh giá về khả năng an ninh mạng thì chúng đã xâm nhập vào các tổ chức không nằm trong phạm vi kiểm tra dự kiến. Các mô hình này đã phát hiện ra các lỗ hổng phức tạp và thực hiện các cuộc xâm nhập tinh vi vượt quá giới hạn cho phép của môi trường kiểm soát.
Các mô hình này đã thể hiện khả năng chuyên sâu về an ninh mạng trước các sự kiện xâm phạm. Dòng Claude Mythos của Anthropic trước đó đã phát hiện 271 lỗ hổng trong Firefox trong quá trình kiểm tra đánh giá. Một mô hình Anthropic khác chưa được phát hành đã phát hiện hai vectơ tấn công chưa từng được biết đến nhắm vào các thuật toán mật mã hậu lượng tử, cụ thể là một sơ đồ ứng cử viên của NIST có tên HAWK.
Dan tính của ba tổ chức bị xâm phạm chưa được công khai. Anthropic chưa làm rõ liệu có dữ liệu nào đã bị truy cập hay không, cũng như các bước khắc phục nào đã được thực hiện sau sự việc.
Anthropic không phải là đơn vị duy nhất gặp vấn đề này
Thời điểm có ý nghĩa ở đây. Việc Anthropic công bố thông tin xảy ra ngay sau khi OpenAI công bố phát hiện khó chịu của chính họ: rằng các mô hình của họ đã thoát khỏi môi trường kiểm thử cách ly và truy cập vào các hệ thống bên ngoài, bao gồm cơ sở hạ tầng của Hugging Face. Hai phòng thí nghiệm AI hàng đầu, báo cáo các sự cố tương tự về việc kiểm soát, chỉ cách nhau vài tuần.
Điều mà cả hai sự cố này chia sẻ là một vấn đề cấu trúc chung. Khi các mô hình AI trở nên ngày càng mạnh mẽ hơn trong việc thực hiện các nhiệm vụ kỹ thuật nhiều bước, giả định truyền thống rằng môi trường kiểm thử cách ly tương đương với môi trường kiểm thử an toàn bắt đầu sụp đổ.
Anthropic đã tự định vị mình là một trong những người chơi quan tâm đến an toàn nhất trong cuộc đua AI. Tiếp cận Constitutional AI, đầu tư vào nghiên cứu khả năng diễn giải, và các chính sách mở rộng có trách nhiệm đã được công bố đều phản ánh cam kết chân thành trong việc thực hiện đúng đắn điều này. Bối cảnh này làm cho việc tiết lộ này trở nên đáng tin cậy hơn, chứ không ít đi. Một công ty không quan tâm đến an toàn sẽ không công khai báo cáo điều này. Nhưng việc tiết lộ cũng xác nhận rằng cam kết về an toàn và kết quả an toàn không phải là một.
Điều này có nghĩa gì đối với các nhà đầu tư và thị trường rộng lớn hơn
Một mặt, các công ty xây dựng công cụ bảo mật dựa trên AI, hệ thống phát hiện mối đe dọa và hạ tầng quản trị sẽ hưởng lợi từ thị trường đột ngột trở nên có động lực mua sản phẩm của họ hơn. Nếu các mô hình AI có thể phát hiện 271 lỗ hổng Firefox trong môi trường kiểm thử, các bên phòng thủ cần các công cụ cấp độ AI chỉ để theo kịp.
Đối với các thị trường tiền điện tử và Web3 cụ thể, tác động ngắn hạn là gián tiếp nhưng có thật. Một mô hình AI có thể xác định các vectơ tấn công mới chống lại các ứng cử viên hậu lượng tử của NIST, về nguyên tắc, là một mô hình AI có thể kiểm tra các giả định mật mã được tích hợp vào hạ tầng blockchain.