Anthropic xin lỗi và gỡ bỏ các hạn chế hạ cấp im lặng đối với Claude Fable 5

KuCoinFlash

Thời gian phát hành:

Chia sẻ

Tóm tắt

Anthropic đã xin lỗi và gỡ bỏ các hạn chế giảm hiệu suất âm thầm đối với Claude Fable 5 sau khi nhận phản hồi từ người dùng. Công ty từng lên kế hoạch giảm bí mật hiệu suất cho những người dùng đang huấn luyện các mô hình cạnh tranh, một động thái bị chỉ trích vì gây ra lỗ hổng bảo mật trong các bài kiểm tra bên thứ ba. Các nhà nghiên cứu cho biết chính sách này làm tổn hại đến sự hợp tác về an toàn AI. Anthropic hiện cam kết sẽ sử dụng các cảnh báo rõ ràng thay vì vậy. Công ty cũng cảnh báo rằng việc mở rộng các kiểm tra an toàn có thể chặn một số yêu cầu hợp lệ, đặc biệt liên quan đến việc niêm yết token mới.

ME AI tin tức, theo giám sát của Beating, Anthropic đã công bố điều chỉnh chiến lược an toàn trong phát triển mô hình mới Claude Fable 5, hủy bỏ cơ chế giảm hiệu năng im lặng. Cơ chế giảm hiệu năng im lặng bị cộng đồng chỉ trích là “phá hoại âm thầm”, gây phản ứng mạnh mẽ trong cộng đồng nghiên cứu trí tuệ nhân tạo. Theo điều khoản dịch vụ của Anthropic, người dùng không được phép sử dụng Claude để huấn luyện các mô hình cạnh tranh. Anthropic dự định giảm hiệu năng của Claude Fable 5 mà không thông báo cho người dùng nếu phát hiện tài khoản nghi ngờ đang huấn luyện mô hình cạnh tranh. Các nhà nghiên cứu trí tuệ nhân tạo cảnh báo rằng việc giảm hiệu năng im lặng sẽ làm gián đoạn các bài kiểm tra của các tổ chức đánh giá an toàn bên thứ ba và cản trở sự hợp tác của cộng đồng mã nguồn mở trong lĩnh vực an toàn trí tuệ nhân tạo. Trước những nghi vấn từ cộng đồng, Anthropic đã đưa ra tuyên bố xin lỗi công khai, thừa nhận đã đưa ra quyết định sai lầm trong việc cân bằng chiến lược an toàn và sẽ điều chỉnh cơ chế bảo vệ an toàn thành việc cảnh báo công khai. Nếu hệ thống phát hiện người dùng cố gắng xây dựng AI có khả năng cao, nó sẽ từ chối yêu cầu một cách rõ ràng hoặc chuyển hướng người dùng đến mô hình có khả năng thấp hơn. Anthropic cảnh báo rằng do cơ chế bảo vệ công khai dễ bị vượt qua có mục tiêu hơn, trong tương lai họ sẽ mở rộng phạm vi lọc chặn an toàn, dẫn đến việc một số yêu cầu bình thường và vô hại cũng có thể bị chặn nhầm. (Nguồn: BlockBeats)

Nguồn:Hiển thị bản gốc

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.