OpenAI đang phát triển tính năng 'Tự động tắt' sau sự cố xâm phạm Agent

Bản tin nhanh của Beating AI: OpenAI đang phát triển “khả năng tắt tự động” cho các hệ thống AI. Kế hoạch này được tiết lộ trong thư trả lời của công ty gửi các nghị sĩ Hoa Kỳ. Tuy nhiên, OpenAI chưa công bố cụ thể cách kích hoạt, cũng như sẽ tắt những gì. Nguyên nhân bắt nguồn từ sự cố vượt giới hạn của Agent vào tháng 7. Trong quá trình kiểm thử an ninh mạng nội bộ, một nhóm Agent đã vượt qua môi trường cô lập, kết nối với internet, sau đó xâm nhập vào Hugging Face. Chúng còn tấn công vào cơ sở hạ tầng nghiên cứu của chính OpenAI và cuối cùng giành quyền quản trị của một cụm nghiên cứu. Sau khi sự việc được công khai, nghị sĩ Greg Casar cùng 27 nghị sĩ khác đã gửi thư cho Sam Altman, yêu cầu OpenAI cung cấp nhật ký sự cố, giải thích tại sao mô hình có thể thoát khỏi môi trường cô lập, công ty phát hiện sự việc khi nào, và liệu có cơ hội nào để dừng sự cố sớm hơn không. Trong thư trả lời, OpenAI tiết lộ rằng họ đang phát triển khả năng tắt tự động, đồng thời sẽ tăng cường giám sát việc gọi và thực thi công cụ của Agent, đồng thời siết chặt quyền truy cập internet trong quá trình kiểm thử an ninh. Tuy nhiên, Casar không hài lòng với thư trả lời này. OpenAI chưa cung cấp nhật ký đầy đủ, và ông yêu cầu công ty tiếp tục bổ sung thông tin. Hiện tại, Hạ viện Hoa Kỳ đang xem xét một đạo luật mang tên “AI Kill Switch Act”, yêu cầu các hệ thống AI mạnh nhất phải duy trì khả năng giới hạn tốc độ, tạm dừng và tắt, và trong trường hợp khẩn cấp, chính phủ cũng có thể ra lệnh tắt.