CEO của MICROSOFT vừa gọi AI là mối đe dọa từ bên trong Satya Nadella vừa công bố một bài viết mà mọi người đang vận hành AI nên đọc. 9 triệu lượt xem trong một ngày. Toàn bộ ý chính của ông trong một câu: “Chúng ta cần tách biệt nguồn cung cấp trí tuệ khỏi quyền lực kiểm soát nó.” Những điều ông nói mỗi công ty hiện nay cần có: -> Không bao giờ để một mô hình tự kiểm tra công việc của chính nó -> Mọi hành động mà AI thực hiện đều để lại bản ghi mà con người có thể đọc được. “Nếu không thể quan sát được, thì không thể tin tưởng được!” -> Công ty quyết định AI có thể tiếp cận những gì, chứ không phải AI -> Giả định mô hình đã bị xâm phạm ngay từ ngày đầu tiên. Một con người luôn có thể nhấn phanh giữa chừng -> Khi nó thất bại, hãy thông báo cho những người bị ảnh hưởng Câu cuối cùng của ông: “Hệ thống Siêu Trí tuệ đáng tin cậy nhất sẽ không phải là hệ thống có mô hình chúng ta tin tưởng nhất. Mà là hệ thống cho phép chúng ta tin tưởng mô hình ít nhất.” Điều điên rồ: Đây là CEO của một trong những nhà cung cấp AI lớn nhất hành tinh, đang nói với chính khách hàng của mình đừng tin tưởng các mô hình. Cá nhân tôi đã xây dựng phiên bản nhỏ của điều này vào tháng Sáu. Một bộ quy tắc mà AI của tôi đọc trước khi làm việc qua đêm: nó có thể làm gì một mình, việc gì phải hỏi tôi, và việc gì tuyệt đối không được làm. Cùng một ý tưởng, chỉ một tệp. Liên kết ở phần phản hồi