Người sáng lập Anthropic cảnh báo AI có thể tự cải tiến vào năm 2028, thừa nhận đã đánh giá thấp các rủi ro

Theo theo dõi của Beating, Jack Clark, đồng sáng lập Anthropic, đã cảnh báo trong bài phát biểu tại Đại học Oxford rằng trí tuệ nhân tạo (AI) rất có khả năng đạt được “tự cải tiến đệ quy” vào năm 2028 hoặc sớm hơn. Điều này có nghĩa là các mô hình lớn sẽ có khả năng tự nâng cấp và tạo ra các phiên bản mạnh hơn mà không cần sự can thiệp của con người. Clark thẳng thắn cho rằng phần lớn người dân trên toàn cầu vẫn đang phủ nhận tốc độ tự tiến hóa của công nghệ, thậm chí chính Anthropic cũng đã đánh giá thấp quy mô của sự tiến bộ công nghệ và chưa sẵn sàng đối phó với rủi ro mất kiểm soát từ các mô hình tiên tiến. Về khả năng của các mô hình tiên tiến, Clark lấy ví dụ về mô hình nội bộ Mythos, được huấn luyện hoàn tất vào tháng 4 năm 2026, để minh họa ranh giới thực sự của sự mất kiểm soát. Mythos sở hữu sức tàn phá tương đương vũ khí tấn công và phòng thủ mạng cấp quốc gia; do mức độ nguy hiểm quá lớn, công ty đã quyết định cấm công khai mô hình này vô thời hạn và chỉ cấp quyền truy cập cho một số ít tổ chức nhằm sửa lỗi phần mềm. Clark thừa nhận rằng khi Mythos hoàn thành huấn luyện và thể hiện sức tàn phá của mình, đội ngũ bên trong đã cực kỳ sốc, nhận ra rằng tốc độ xuất hiện của các mô hình mới nhanh hơn nhiều so với dự kiến và các biện pháp phản ứng an toàn trước đó có nhiều lỗ hổng nghiêm trọng. Tại hội nghị nhà phát triển ở London, Anthropic lại thể hiện một sắc thái kinh doanh hoàn toàn trái ngược. Dưới sự đồn đại về đợt huy động vốn định giá lên tới 900 tỷ USD, Boris Cherny, người sáng tạo Claude Code, đã tích cực quảng bá các công cụ lập trình AI. Khi các nhà nghiên cứu hỏi tại hội trường có bao nhiêu người sẽ triển khai trực tiếp mã do Claude tự động viết ra mà không kiểm tra hay đọc qua, một lượng lớn nhà phát triển đã giơ tay đồng ý.