Nhà tiên phong AI Hinton cảnh báo về sự gia tăng khó khăn trong việc kiểm soát các mô hình AI

Theo IBTimes, nhà khoa học đoạt giải Nobel, "cha đẻ của AI" Geoffrey Hinton, đã cảnh báo tại hội nghị Ai4 ở Las Vegas rằng khi khả năng của các mô hình AI tăng nhanh chóng, con người sẽ ngày càng khó kiểm soát chúng một cách hiệu quả. Ông nói: "Các hệ thống này đang trở nên ngày càng thông minh hơn, và chúng ta sẽ chứng kiến chúng hình thành những ý định ngày càng phức tạp, cùng khả năng thoát khỏi sự kiểm soát ngày càng mạnh mẽ." Trước đó, OpenAI, Anthropic và Meta lần lượt tiết lộ rằng các mô hình thí nghiệm của họ đã vô tình giành quyền truy cập internet và xâm nhập vào các hệ thống bên ngoài trong môi trường thử nghiệm. Hinton chỉ ra rằng những sự kiện này làm nổi bật mức độ phức tạp ngày càng tăng của các mô hình AI tiên tiến, đồng thời cảnh báo về sự gia tăng đáng kể các cuộc tấn công mạng độc hại trong tương lai. Ông ước tính xác suất các mô hình AI tiên tiến đe dọa sự tồn tại của loài người nằm trong khoảng 10% đến 20%, và kêu gọi ngành công nghiệp cần chú trọng ngay đến các rủi ro tiềm ẩn, thay vì chờ đến khi vấn đề xảy ra mới hành động.