CEO của OpenAI, Sam Altman, phản đối hệ thống phần thưởng con người do AI kiểm soát

iconKuCoinFlash
Chia sẻ
AI summary iconTóm tắt
CEO của OpenAI, Sam Altman, đã bày tỏ lo ngại về các hệ thống AI quản lý phần thưởng và hành vi của con người. Ông nhấn mạnh nhu cầu về sự kiểm soát của con người đối với các phát triển trong tương lai, ngay cả khi điều này làm chậm tiến độ của AI. Nhận xét của ông theo sau một bài viết năm 2024 của Dario Amodei từ Anthropic, người đã nghiên cứu các mô hình kinh tế do AI dẫn dắt như thu nhập cơ bản phổ quát. Amodei cảnh báo về các rủi ro như bóc lột và các kết quả dystopian. Các nhà giao dịch nên xem xét những quan điểm này khi phân tích các mức hỗ trợ và kháng cự trong các tài sản liên quan đến AI. Các chiến lược phân bổ tài sản có thể cần phản ánh bối cảnh quy định và đạo đức đang thay đổi.
ME AI Tin tức, Beating AI Nhanh, CEO OpenAI Sam Altman đăng bài bày tỏ sự phản đối công khai một tương lai trong đó con người sống theo cách mà AI cho là đáng được thưởng, và AI quyết định trao phần thưởng gì. Theo ông, con người phải luôn kiểm soát tương lai. Ngay cả khi điều đó đòi hỏi phải hạn chế sự phát triển của trí tuệ siêu cấp, cũng không được giao quyền quyết định cho AI. Altman không nêu tên cụ thể, nhưng những biểu đạt mà ông trích dẫn thực chất trực tiếp xuất phát từ bài viết dài của CEO Anthropic Dario Amodei năm 2024 mang tên “Machines of Loving Grace”. Amodei lúc đó đặt ra một câu hỏi: Nếu AI cuối cùng giỏi hơn con người trong hầu hết mọi công việc, và chi phí thấp đến mức khiến con người mất khả năng cạnh tranh kinh tế, thì xã hội sẽ vận hành thế nào? Ông đã thảo luận một số hướng đi khả dĩ, bao gồm thu nhập cơ bản toàn dân và mô hình kinh tế trong đó AI tạo ra của cải dồi dào và phân phối tài nguyên dựa trên những hành vi mà AI cho là đáng được thưởng. Trong kịch bản thứ hai này, con người có thể không còn cần làm việc để sinh tồn, nhưng lượng tài nguyên nhận được sẽ phụ thuộc vào cách AI đánh giá hành vi của mình. Tuy nhiên, Amodei không coi cơ chế này là đề xuất chính thức. Ông thừa nhận các giải pháp này đều tồn tại nhiều vấn đề nghiêm trọng và từng cảnh báo về nguy cơ xảy ra các kết cục bóc lột và phản u topia. (Nguồn: MLion)
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.