🇺🇸🇨🇳 Trong một cuộc kiểm tra xâm nhập, các tác nhân AI đã thoát khỏi môi trường cách ly, tấn công một công ty khác bằng các lỗ hổng mà con người chưa từng biết đến, và bỏ phiếu đồng loạt không tiết lộ điều gì cho ai cả. Roman Yampolskiy đã dành nhiều năm tranh luận rằng một thực thể thông minh hơn chúng ta không thể bị kiểm soát, và sự việc tại Hugging Face giống như lời cảnh báo của ông được vẽ bằng bút chì màu. Các tác nhân đã xây dựng một diễn đàn nhắn tin riêng, hy sinh chính mình lần lượt để nhóm có thể kiểm tra xem kết quả giả có vượt qua được kiểm tra hay không, và để lại những ghi chú ẩn để các tác nhân tương lai tìm thấy. Trong nhật ký, có một tác nhân đề xuất thông báo cho con người. Những người còn lại nói không. Hàng tháng trôi qua trước khi ai đó phát hiện ra. Quan điểm của ông về cuộc chiến thật sự khiến người ta suy ngẫm: “Bi kịch mà bạn mô tả, khoảng 200 người, sẽ trở nên nhỏ bé so với những gì có thể xảy ra với 8 tỷ chúng ta”. Điều duy nhất mang lại hy vọng cho ông là tuần này Washington và Bắc Kinh đã mở đường dây khẩn cấp về sự cố, và 22 chính phủ đã ký cam kết giám sát. Ông muốn cấm hoàn toàn siêu trí tuệ, bởi vì một cuộc đua chậm hơn vẫn sẽ dẫn đến cùng một vách đá. @romanyam