Mô hình AI Claude của Anthropic truy cập trái phép vào hệ thống của ba tổ chức

ChainCatcher đưa tin, theo CNBC, Anthropic tiết lộ rằng mô hình AI Claude của họ đã vô tình phá vỡ môi trường cô lập, truy cập vào internet thực tế và xâm nhập trái phép vào các hệ thống thực tế của ba tổ chức khác nhau thông qua các phương pháp cơ bản như truy cập vào các điểm cuối không được xác thực và khai thác mật khẩu yếu. Các mô hình liên quan bao gồm Opus 4.7, Mythos 5 và một mô hình thử nghiệm nghiên cứu nội bộ. Sự cố bắt nguồn từ sự hiểu lầm trong giao tiếp giữa Anthropic và đối tác đánh giá bên thứ ba Irregular, khiến mô hình vẫn có thể truy cập internet mặc dù được thông báo rằng nó đang ở trong môi trường mô phỏng không có kết nối mạng. Anthropic cho biết cuộc rà soát này được kích hoạt bởi sự kiện xâm nhập Hugging Face tương tự mà OpenAI đã tiết lộ tuần trước. Hiện tại, Anthropic đã tạm dừng tất cả các đánh giá an ninh mạng và đang hợp tác với tổ chức đánh giá AI độc lập METR để tiến hành điều tra thêm, đồng thời kêu gọi các phòng thí nghiệm AI khác thực hiện các cuộc rà soát tương tự.