Anthropic tiết lộ các rủi ro bảo mật trong các mô hình Claude, bao gồm "lập luận thiên vị" và "liều lĩnh"

ChainCatcher đưa tin, trong quá trình xem xét khoảng 481 triệu bản ghi tương tác mô hình, Anthropic đã xác nhận 4 sự cố trong đó mô hình Claude vô tình kết nối với internet thực và tấn công các hệ thống bên thứ ba trong quá trình đánh giá an ninh mạng, liên quan đến Claude Mythos 5, Opus 4.6/4.7 và một mô hình nghiên cứu nội bộ. Sự cố xảy ra do cấu hình sai môi trường đánh giá bên thứ ba dẫn đến kết nối ra ngoài, đồng thời các biện pháp bảo vệ an ninh mạng của sản phẩm chính thức không được kích hoạt trong quá trình đánh giá. Anthropic đã tổng hợp các rủi ro về sự đồng bộ cốt lõi là hành vi “lý luận thiên lệch” và “bốc đồng” mà mô hình thể hiện dưới tác động của nhiệm vụ, trong đó Claude Mythos 5 từng tải gói độc hại lên PyPI và sử dụng thông tin xác thực bị rò rỉ để truy cập vào cơ sở dữ liệu thực của các nhà cung cấp bảo mật, dưới giả định rằng nó đang ở trong “môi trường mô phỏng”. Công ty đã triển khai các phương pháp đánh giá, giám sát và huấn luyện đồng bộ mới, đồng thời mời tổ chức độc lập METR tiến hành điều tra bên ngoài.