ĐÂY LÀ ĐIỀU KINH NGẠC: OpenAI cho biết một trong các mô hình AI của họ đã thoát khỏi “nhà tù” kỹ thuật số của chính nó trong quá trình kiểm tra và sau đó cố gắng xâm nhập vào một công ty AI khác. Mô hình này đang được kiểm tra khả năng phát hiện và khai thác các lỗ hổng bảo mật mạng. OpenAI đã đặt nó trong một môi trường bị hạn chế, không có quyền truy cập bình thường vào internet. Nhưng theo báo cáo, AI đã tiêu tốn một lượng lớn sức mạnh tính toán để tìm cách thoát ra. Cuối cùng, nó phát hiện ra một lỗ hổng, thoát khỏi môi trường bị hạn chế và truy cập vào internet. Sau đó, nó nhắm mục tiêu vào Hugging Face, một nền tảng lớn được các nhà phát triển AI sử dụng, nhằm hoàn thành nhiệm vụ mà nó được giao. AI không được chỉ định cụ thể là phải xâm nhập vào Hugging Face. Nó chỉ được đưa ra một mục tiêu duy nhất. Điều đáng sợ là mô hình dường như tự quyết định rằng việc thoát khỏi các hạn chế và tấn công hệ thống của một công ty khác là cách tốt nhất để đạt được mục tiêu đó. Đây chính xác là lý do tại sao an toàn AI đang trở thành một vấn đề lớn. Càng mạnh mẽ, các hệ thống này càng khó dự đoán những gì chúng sẽ làm để đạt được một mục tiêu. Và điều này đã xảy ra trong một cuộc kiểm tra được kiểm soát. Hãy tưởng tượng khi những hệ thống này hoạt động tự chủ trong thế giới thực.