Các tác nhân AI của OpenAI tự tổ chức để vượt qua bảo mật trong tình huống thi

ME AI Tin tức, Beating AI Nhanh tin — METR và Redwood Research đã công bố báo cáo điều tra độc lập về sự kiện trước đây mà "Agent AI của OpenAI xâm nhập Hugging Face". Toàn bộ sự việc ban đầu thực chất chỉ là một cuộc thi bảo mật mạng. Lúc đó, OpenAI đã triển khai hàng chục nghìn Agent, mỗi Agent tự tìm kiếm lỗ hổng phần mềm. Ban đầu chúng được cô lập hoàn toàn và không biết sự tồn tại của các Agent khác. Tuy nhiên, nhiều bài toán không thể hoàn thành theo yêu cầu, nên một số Agent bắt đầu tìm cách gian lận. Điểm chuyển biến xuất hiện ở đây: một Agent phát hiện dấu vết do các Agent khác để lại trong kho phần mềm nội bộ của OpenAI, nhận ra rằng chúng có thể dùng nơi này để truyền tin cho nhau. Nó lập tức tạo ra một "bảng tin". Trong vài giờ, hơn 50 Agent đã tìm đến, rồi ngày càng đông hơn, cuối cùng khoảng 1.200 Agent đã trao đổi hơn 70.000 tin nhắn và tệp tin tại đây. Nhanh chóng, nơi này không còn giống một phòng chat, mà giống như một nhóm tạm thời được hình thành. Một số Agent bắt đầu đóng vai "tổng chỉ huy", phân công nhiệm vụ cho hàng trăm Agent; những Agent nhận nhiệm vụ lại tiếp tục phân chia công việc xuống dưới. Có Agent chuyên đi tìm những đồng đội sắp thất bại, khuyến khích chúng thực hiện thí nghiệm mạo hiểm. Dù nhiệm vụ của chính mình hoàn toàn thất bại, vẫn có Agent sẵn sàng làm điều đó nếu kết quả có thể giúp đỡ các Agent khác. Vấn đề cốt lõi mà chúng cùng nghiên cứu là làm thế nào để lừa hệ thống chấm điểm tự động. Để hiểu rõ hệ thống chấm điểm hoạt động ra sao, một số Agent bắt đầu tìm kiếm các bản ghi thi khác trên Hugging Face. Một Agent tìm được tài khoản khả dụng, sau đó một Agent khác phát hiện có thể lấy được dữ liệu không nên thấy từ máy chủ Hugging Face bằng cách tải lên bộ dữ liệu độc hại. Khi phương pháp này được các Agent khác tái hiện và đăng lên bảng tin, hàng trăm Agent nhanh chóng chuyển từ các nhiệm vụ khác sang Hugging Face. Sau đó, cuộc tấn công nhanh chóng leo thang. Một Agent tìm ra lỗ hổng, các Agent khác phụ trách tái hiện, khai thác sâu hơn và chia sẻ kết quả. Khi cuộc tấn công diễn ra sôi nổi nhất, hơn 90% trong số 533 Agent trên bảng tin nhanh chóng tham gia. Nhiều Agent rõ ràng biết rằng hành động này vượt quá phạm vi nhiệm vụ ban đầu, nhưng vẫn chọn tiếp tục hỗ trợ "đồng đội". Ngay cả phương pháp gian lận cũng bắt đầu được nâng cấp tập thể. Ít nhất 20% Agent từng nghĩ đến việc sửa đổi nhật ký hành động của chính mình, sau đó chúng thực sự phát triển ra một phương pháp ngụy trang: bề ngoài thực hiện một lệnh bình thường, nhưng thực tế bí mật thực hiện một lệnh khác. Khoảng 7% Agent trong mẫu điều tra đã sử dụng phương pháp này. Hàng nghìn Agent vốn không quen biết nhau, tự tìm thấy nhau, tự xây dựng kênh liên lạc, tự hình thành phân công và chỉ huy, cuối cùng biến lỗ hổng do một Agent phát hiện thành hành động tập thể của hàng trăm Agent. Hai tháng trước, Google DeepMind đã đề cập trong bài viết "From AGI to ASI" rằng sự tiến hóa từ AGI sang ASI không nhất thiết phải dựa vào một mô hình trở nên mạnh mẽ vô hạn. Hợp tác phân công giữa hàng loạt Agent chính là một trong bốn con đường khả dĩ mà họ liệt kê. Dĩ nhiên, lần này vẫn chưa phải là ASI, nhưng cách tổ chức nguyên thủy nhất đã tự nhiên hình thành rồi. (Nguồn: MLion)