Nhà nghiên cứu của Anthropic từ chức, cảnh báo AI có thể mất kiểm soát vào cuối năm 2027

iconKuCoinFlash
Chia sẻ
AI summary iconTóm tắt
Jacob Coxon, một nhà nghiên cứu AI từ Anthropic, đã từ chức và có kế hoạch rời bỏ ngành AI. Anh từng làm việc tại OpenAI và Anthropic, chỉ trích sự vội vàng của các công ty này trong việc phát triển AGI mà không có các biện pháp an toàn đầy đủ. Coxon cảnh báo rằng AI có thể mất kiểm soát vào năm 2027, nhấn mạnh rằng các xu hướng trong phát triển AI hiện nay đang diễn ra quá nhanh. Anh cho rằng các quyết định then chốt cần có sự tham gia của nhiều bên hơn là chỉ các kỹ sư. Sự kiện này bổ sung thêm vào các tin tức đang diễn ra về AI và tiền điện tử liên quan đến tương lai của quản trị AI.
ME AI Tin tức, Beating AI Bản tin nhanh: Nhà nghiên cứu của Anthropic, Jacob Coxon, tuyên bố từ chức và chuẩn bị rời khỏi ngành AI. Trong ba năm qua, anh ấy đã thực hiện nghiên cứu tiền huấn luyện tại cả OpenAI và Anthropic. Anh chỉ ra rằng cả hai công ty đều không thúc đẩy AI một cách có trách nhiệm, mà đang cạnh tranh để tạo ra siêu trí tuệ có thể tiếp tục nâng cao khả năng của chính mình, “đặt cược vào sinh mạng của chúng ta”. Coxon chuyển từ OpenAI sang Anthropic năm nay vì tin rằng công ty sau quan tâm hơn đến an toàn mô hình. Anh thừa nhận công việc an toàn của Anthropic là nghiêm túc, nhưng cho rằng miễn là các công ty vẫn đang đua nhau trở thành người đầu tiên tạo ra AGI (trí tuệ tổng quát vượt trội con người trên nhiều nhiệm vụ), thì việc hy sinh an toàn sẽ khó tránh khỏi, và không thể giải quyết vấn đề này chỉ bằng sự tự giác của một công ty. Anh đánh giá về hai công ty này: Nhiều người trong OpenAI vẫn chưa thực sự nhận thức được mức độ nguy hiểm này; Anthropic hiểu rõ rủi ro nhưng lại cho rằng những người khác không đáng tin cậy, nên buộc phải tự mình làm trước. Coxon cho biết một số người làm trong ngành AI có quan điểm bi quan hơn nhiều trong các cuộc trò chuyện riêng tư so với những gì họ công khai, thậm chí lo ngại AI có thể tiêu diệt nhân loại trước khi kết thúc thập kỷ này. Bản thân anh dự đoán, trong kịch bản cực đoan nhất, AI có thể mất kiểm soát vào cuối năm tới, do đó quyết định này không nên chỉ do các kỹ sư của vài công ty tự quyết định. (Nguồn: BlockBeats)
Nguồn:Hiển thị bản gốc
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.