Điều khiến tôi khó chịu nhất ở Anthropic là nó thực sự tin rằng chỉ cần nó cho rằng mình đang làm điều tốt, thì nó có quyền đưa ra rất nhiều quyết định thay cho người dùng. Nó vừa công bố một báo cáo Threat Intelligence dài 154 trang, trong đó tổng hợp các trường hợp Claude bị sử dụng cho các cuộc tấn công mạng, lừa đảo, nghiên cứu sinh học, phát triển vũ khí, và tinh luyện mô hình. Những trường hợp này đến từ đâu? Anthropic theo dõi cách người dùng sử dụng Claude, phát hiện những tài khoản mà nó cho là có vấn đề, sau đó điều tra sâu hơn, phân tích cách họ sử dụng, rồi đánh giá xem người dùng đó có vượt quá giới hạn hay không. Nếu cảm thấy rủi ro, nó sẽ khóa tài khoản. Sau đó, nó tổng hợp những sự việc này thành báo cáo để giải thích với công chúng về những gì nó đã phát hiện và ngăn chặn. Và Anthropic đã làm điều này rất nhiều lần rồi. Nó lấy các cuộc hội thoại thực tế giữa người dùng và Claude để nghiên cứu xem con người đang nói chuyện với AI về gì, họ phụ thuộc vào AI như thế nào, giá trị của họ là gì, và trong hoàn cảnh nào họ sinh ra cảm xúc nhất định. Nó sẽ nói với bạn rằng dữ liệu đã được xử lý bảo mật, và những nghiên cứu này nhằm mục đích giúp AI an toàn hơn. Nhưng tôi cho rằng điều này lại cực kỳ kiêu ngạo. Tại sao chỉ cần bạn nói một câu “vì an toàn của AI”, bạn đã có quyền xem người dùng đang làm gì? Tại sao bạn cho rằng việc này đáng để nghiên cứu, nên dữ liệu người dùng có thể bị lấy đi nghiên cứu? Nếu nó cho rằng một hành vi đầu tư nào đó quá rủi ro, một cuộc thảo luận chính trị nào đó có thể gây hại, một nội dung người lớn nào đó không phù hợp với nguyên tắc của nó, hay một nghiên cứu AI nào đó quá nguy hiểm — liệu nó có thể xem, hạn chế, hay khóa tài khoản không? Theo logic hiện tại của Anthropic, tất nhiên là có thể. Vì nó luôn mặc định một điều: Anthropic biết rõ hơn người dùng điều gì nên làm và điều gì không nên làm. Đó cũng là lý do vì sao tôi luôn không tin vào câu chuyện AI Safety của Anthropic. Một công ty luôn nói rằng lo lắng AI sẽ thay con người đưa ra quyết định, nhưng bản thân lại ngày càng quen thuộc với việc tự mình đưa ra quyết định thay người dùng. Quá già nua rồi, kẻ già nua chắc chắn sẽ bị đánh bại.