Tổng giám đốc Signal, Meredith Whittaker, trong cuộc phỏng vấn với Bloomberg về các chatbot như ChatGPT và Claude, cho rằng người dùng không nên coi những hệ thống này là “bạn bè” hoặc đối tượng giao tiếp có ý thức chủ quan. Bà tập trung cuộc thảo luận vào các vấn đề về quyền riêng tư và quyền hạn, cho rằng rủi ro sẽ nhanh chóng gia tăng khi các công cụ này được tích hợp sâu vào các dịch vụ cá nhân.
Whittaker nói về giới hạn sử dụng AI
Whittaker cho biết cô chỉ sử dụng các công cụ AI trong một số ít tình huống, ví dụ như định dạng tài liệu, nhưng không giao quá trình đặt câu hỏi, suy nghĩ và viết lách cho mô hình. Cô cho biết cô không muốn một hệ thống tạo ra câu trả lời dựa trên thông tin hiện có thay thế quá trình suy nghĩ mà lẽ ra nên do cá nhân thực hiện.
Lo ngại về việc truy cập quyền nhạy cảm giữa các ứng dụng
Cô cũng phản hồi lại một ý tưởng trước đó do Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft, đưa ra, rằng người dùng có thể để Microsoft Copilot thay mình thực hiện việc mua sắm Giáng sinh. Whittaker cho rằng, để hiện thực hóa kịch bản này, hệ thống cần truy cập vào lượng lớn thông tin cá nhân và thực hiện các thao tác trên nhiều dịch vụ khác nhau.
- Thẻ tín dụng và thông tin thanh toán
- Lịch sử truy cập trình duyệt
- Nội dung và người liên hệ trên Signal
Ngoài các thông tin trên, các hệ thống này còn có thể tiếp cận địa chỉ nhà, lịch trình và gửi tin nhắn thay người dùng đến bạn bè và người thân. Cô cho rằng, đây không còn là việc sử dụng hỗ trợ bởi một công cụ đơn lẻ, mà là việc truy cập rộng rãi đến nhiều ứng dụng và dịch vụ.
Signal coi việc truy cập này là rủi ro backdoor
Whittaker còn cho biết, nếu các khả năng tương tự được tích hợp vào các sản phẩm truyền thông mã hóa như Signal, thì về mặt bảo mật sản phẩm, điều này gần như tương đương với việc thiết lập một “cửa sau”. Bà nhấn mạnh rằng, càng khi tính năng trợ lý AI tiến gần hơn đến việc thực hiện các tác vụ thay người dùng, người dùng càng cần quan tâm đến những quyền hạn thực tế mà nó được cấp.
Phát biểu này cũng phản ánh một tranh cãi kéo dài trong cuộc cạnh tranh trợ lý AI: khi sản phẩm chuyển từ việc trả lời câu hỏi sang thay thế người dùng xử lý các công việc, xung đột giữa sự tiện lợi và bảo vệ quyền riêng tư trở nên trực tiếp hơn.