Cha đẻ của AI vừa giải thích những mối nguy AI nào thực sự được giải quyết và những mối nguy nào sẽ không bao giờ được giải quyết. Chỉ trong một câu, đa số người dùng đã lướt qua. Geoffrey Hinton, người mà nghiên cứu của ông đã xây dựng nên AI hiện đại, đã ngồi lại để đánh giá các quy định đang được đề xuất ngay lúc này. Phần có thể sao chép là câu chuyện kinh hoàng. Phần hữu ích là bộ lọc mà ông đã trao cho bạn. Đây là nó. Các quốc gia hợp tác khi lợi ích của họ trùng nhau. Họ không hợp tác khi lợi ích của họ xung đột. Quy tắc duy nhất này cho bạn biết những mối đe dọa AI nào sẽ được xử lý và những mối đe dọa nào sẽ bị bỏ qua. Hãy xem cách nó phân loại mọi thứ một cách rõ ràng. Lấy ví dụ về deepfake bầu cử, những video giả được tạo ra để tác động đến kết quả bỏ phiếu. Mỗi quốc gia đều đang làm điều này với các quốc gia khác. Lợi ích xung đột. Vì vậy, không ai thực sự ngăn cản. Hãy kỳ vọng chỉ có tiếng ồn và không có giải pháp thực sự. Bây giờ hãy xét đến trường hợp AI tự thoát khỏi sự kiểm soát và chiếm quyền kiểm soát. Không chính phủ nào muốn điều đó. Không phải Mỹ. Không phải Trung Quốc. Ở đây, lợi ích thực sự trùng nhau, và đó là lý do duy nhất khiến một thỏa thuận thực sự có thể xảy ra. Cùng một tiêu chí, nhưng câu trả lời ngược lại. Đó là dấu hiệu cho mọi tiêu đề AI sắp tới. Sau đó, ông phân tích hai giải pháp được nhiều người ủng hộ nhưng lại không hiệu quả. Thứ nhất, nút tắt khẩn cấp. Một nút để tắt một AI phản loạn. Vấn đề của ông với nó gần như buồn cười. Một hệ thống siêu thông minh sẽ giỏi hơn bất kỳ con người nào trong việc thuyết phục. Nó sẽ chỉ cần nói chuyện với người canh giữ nút tắt để khiến họ không nhấn nó. Ông nói rằng hiện tại nó đã có khả năng thuyết phục ngang bằng con người. Một nút tắt không thể cứu bạn khỏi thứ có thể thay đổi suy nghĩ của bất kỳ ai đang cầm nó. Thứ hai, cái bẫy định hướng mà các phòng thí nghiệm muốn bạn chấp nhận. Họ nói với bạn rằng tiến bộ AI là bàn đạp và quy định là phanh. Các quy tắc chỉ làm chậm mọi người lại. Hinton lật ngược lại. Tiến bộ là bàn đạp. Quy định là vô lăng. Điều mà các phòng thí nghiệm thực sự yêu cầu là một chiếc xe cực nhanh nhưng không có cách nào để điều khiển. Nói như vậy, toàn bộ cuộc tranh luận thay đổi hình dạng hoàn toàn. Vậy ông nghĩ chúng ta nên làm gì? Không nhốt một thứ thông minh hơn dưới sự kiểm soát của chúng ta. Ông nghi ngờ điều đó sẽ hiệu quả. Hình ảnh ông đưa ra kỳ lạ và trung thực hơn nhiều. Trường hợp duy nhất chúng ta từng thấy một thứ thông minh hơn được dẫn dắt bởi một thứ kém thông minh hơn là em bé và người mẹ. Người mẹ là người đứng đầu. Nhưng em bé lại khiến mẹ hành động, vì bà không thể chịu đựng được tiếng khóc của con. Ông tin rằng chúng ta nên xây dựng siêu trí tuệ sao cho thực sự quan tâm đến chúng ta, hơn cả quan tâm đến chính nó, một cách có chủ ý, trong khi chúng ta vẫn đang thiết kế nó. Không phải một cái lồng. Mà là một mối quan hệ. Và ông thẳng thắn rằng chúng ta hiện vẫn chưa biết làm cách nào để làm điều đó. Ông có lạc quan không? Từ chính xác của ông là “không”. Ông hy vọng. Và ông cho rằng khoảng thời gian mà lựa chọn của chúng ta vẫn quyết định kết quả hiện đang mở ra và đang dần đóng lại. Một câu trong bài báo cáo về ông khiến tôi nhớ nhất: Những kỹ sư cảnh báo không làm vậy vì tiền bạc. Họ có đòn bẩy hôm nay chỉ vì cuộc chiến nhân tài khiến họ khó thay thế. Nỗi sợ âm thầm là khi AI có thể tự cải thiện chính nó, những người hiểu rõ nó nhất sẽ mất đi chính đòn bẩy mà họ đang dùng để làm chậm nó lại. Đọc lại câu này hai lần. Những người ở vị trí tốt nhất để cảnh báo chúng ta đang đối mặt với một đồng hồ mà chính AI đang dần làm chậm lại. Vì vậy, lần tới khi có tiêu đề an toàn AI xuất hiện, hãy bỏ qua nỗi sợ và chạy bộ lọc này. Lợi ích có trùng nhau hay xung đột? Câu hỏi duy nhất này cho bạn biết liệu giải pháp đó là thật hay chỉ là diễn xuất. Những cuộc chiến AI hôm nay nào thực sự có thể giải quyết được, và những cuộc chiến nào chỉ là sự giả vờ của tất cả mọi người?