Một nhà nghiên cứu đã từ chức sau ba năm huấn luyện mô hình tại Anthropic và viết lý do ra nơi mọi người đều có thể thấy 🧐 Jacob Coxon, 27 tuổi, từng làm việc về pretraining tại OpenAI, sau đó chuyển sang Anthropic. Khi rời đi, anh tóm gọn trong một câu: các phòng thí nghiệm đang đua nhau hướng tới trí tuệ nhân tạo tự cải thiện chính nó, và họ đang thực hiện điều đó trên cuộc sống của tất cả chúng ta. Phần gây chú ý thực sự nằm ở phía sau 👇 Evan Hubinger, người phụ trách khoa học định hướng của Anthropic, đã xác nhận điều này. Dự đoán của anh ấy: trong vòng mười năm tới, khả năng trí tuệ nhân tạo tiêu diệt tất cả chúng ta vượt quá 10%. Anh cho rằng rủi ro với các mô hình hiện tại là thấp, nhưng điều anh lo lắng chính là khả năng tự cải thiện lặp lại. Việc một nhân vật trong bộ phận an toàn của công ty công khai nói điều này là điều không bình thường 😳 Cuộc tranh luận nhanh chóng chuyển sang lĩnh vực chính trị 🏛️ Dự luật Ban Artificial Superintelligence Act do Bernie Sanders và Greg Casar công bố vào ngày 3 tháng 9 đã nằm trên bàn: cấm vĩnh viễn siêu trí tuệ, thành lập một cơ quan liên bang mới để soạn thảo quy tắc an toàn, tạm dừng các mô hình mới cho đến khi quy tắc được hoàn thiện, hình phạt tù tới 20 năm cho vi phạm và buộc doanh nghiệp phải giải thể. Bên đối lập cũng không ngồi yên 🤨 Thời điểm từ chức, những trích dẫn đầu tiên chủ yếu đến từ các tổ chức chính sách được tài trợ bởi cùng một quỹ, và trùng khớp hoàn toàn với dự luật này — đã khiến nhiều người cho rằng: “Đây không phải là tự phát, mà là một chiến dịch điều tiết có chủ đích.” Nói cách khác, có hai câu chuyện đang tồn tại: либо đây là một cảnh báo chân thành xuất phát từ lõi ngành, либо là một chiến dịch thiết kế quy định nhằm vô hiệu hóa đối thủ. Khả năng cả hai đều đúng cũng hoàn toàn có thể xảy ra. Đồng thời, Anthropic hôm nay đã công bố báo cáo tình báo đe dọa chi tiết nhất từ trước đến nay, mô tả cách các mô hình bị lạm dụng để thực hiện tấn công mạng, chiến dịch tác động và giám sát. Đây là một tài liệu hữu ích để hiểu rõ bối cảnh của cuộc tranh luận này 📄 Bạn thấy bên nào thuyết phục hơn: một lời cảnh báo chân thành hay một chiến dịch vận động hành lang được xây dựng tinh vi? 🤔 Nội dung này chỉ mang tính chất thông tin, không phải lời khuyên đầu tư hay tư vấn đầu tư.
