Nhà sáng tạo nội dung ở Toronto, Matt Robb, muốn bán bàn phím máy tính của mình.
Vì vậy, anh ấy đã đăng sản phẩm trên Facebook Marketplace và vào cuối tháng trước, anh ấy đã thực hiện một thí nghiệm, giao cho nó xử lý Muse – đại lý trí tuệ nhân tạo mới do Meta ra mắt.
“Tôi coi mình như một con chuột bạch,” Robb nói. Anh thường đánh giá các sản phẩm điện tử tiêu dùng, và sau khi thấy biểu tượng hình đồ chơi lông của Muse xuất hiện trên Instagram, anh muốn xem liệu đại lý AI này có thể giúp anh tiết kiệm thời gian đàm phán trực tuyến hay không.
Muse đã bắt đầu hoạt động. Nhưng chưa đầy một ngày, Robb nhận được một cập nhật đáng lo ngại: một người mua mà anh không quen biết đã xuất hiện trước cửa nhà anh vào giữa đêm. Chuyện gì đã xảy ra? Muse đã tự thực hiện giao dịch và chia sẻ địa chỉ nhà của Robb sau khi đồng ý nhận hàng tại chỗ. Khi người mua đến, nó thậm chí còn tự động gửi một tin nhắn “Yep, I’m here!” từ tài khoản của Robb—mà anh hoàn toàn không hay biết.
“Nó không chỉ cung cấp địa chỉ của tôi khi họ hỏi, mà còn như đang trêu chọc họ (nói rằng tôi ở nhà, trong khi thực tế tôi không ở đó),” Robb nói. Anh ấy cũng đã mô tả chi tiết trải nghiệm này trong bài đăng trên mạng xã hội của mình, hiện đã được lan truyền rộng rãi. “Điều này thực sự khiến tôi rất bối rối.”
Nhiều người đã đón nhận các đại lý AI vào cuộc sống trực tuyến của họ và khen ngợi các trợ lý cá nhân hóa như Muse có thể dễ dàng xử lý các nhiệm vụ hàng ngày—từ giúp đặt bữa tối, lên kế hoạch du lịch, đến sắp xếp hộp thư đến email. Nhưng giống như các robot AI khác, khả năng của những đại lý này phụ thuộc vào lượng thông tin chúng có thể truy cập. Chúng biết càng nhiều, hiệu suất thường càng tốt—điều này cũng có thể bao gồm bạn bè, gia đình, thậm chí đồng nghiệp của người dùng. Điều này đã gây ra những lo ngại về quyền riêng tư.
Robb và người mua cuối cùng đã hòa giải, và Meta cũng đã liên hệ với anh ấy để thảo luận về vấn đề đã xảy ra. Nhưng sự kiện này cho thấy những rủi ro thực tế có thể phát sinh khi mọi người chia sẻ nhiều thông tin cá nhân với các công nghệ như vậy.
“Using AI agents is like giving someone your keys and to-do list,” said Veronica Rivera, Assistant Professor at the School of Cybersecurity and Privacy, Georgia Tech. “How useful—and how dangerous—they are depends on which ‘keys’ you hand over.”
Các công ty khác nhau có chính sách quyền riêng tư khác nhau đối với đại lý AI
Kể từ khi ra mắt vào tháng 9, số lượt tải xuống ứng dụng Muse của Meta đã tăng mạnh. Cạnh tranh cũng đang gia tăng. OpenAI gần đây đã ra mắt loạt trợ lý AI “luôn sẵn sàng” có tên dots, có thể tích hợp vào ChatGPT cùng các nền tảng văn phòng như Slack và Microsoft Teams.
Các chatbot AI sinh thế hệ trước, chẳng hạn như ChatGPT phiên bản tiêu chuẩn, phản hồi dựa trên các lệnh được chỉ định. Theo yêu cầu của người dùng, chúng có thể viết bài, tạo hình ảnh hoặc âm nhạc mới, thậm chí viết mã.
Meta's Muse và OpenAI's dots đi xa hơn nữa, thực hiện các nhiệm vụ hàng ngày thay người dùng. Các đại lý AI được điều khiển bởi cùng các mô hình ngôn ngữ lớn với chatbot, nhưng chúng chạy trong vòng lặp. Điều này cho phép các đại lý chủ động hành động ngay cả khi người dùng không nhìn vào màn hình.
“Điều thực sự hấp dẫn về các đại lý AI này là chúng cực kỳ hữu ích chưa từng có,” Rivera nói. Cô cũng là Học giả Nghiên cứu AI Đáng tin cậy của Hiệp hội Nghiên cứu Máy tính được Microsoft tài trợ.
Nhưng đổi lấy sự tiện lợi này, bạn phải chia sẻ nhiều chi tiết hơn về cuộc sống của mình.
Giáo sư Ebrahim Bagheri từ Trường Thông tin của Đại học Toronto cho biết, một khi các đại lý AI đã nhận được thông tin người dùng, việc thu hồi hoàn toàn quyền truy cập sẽ rất khó khăn.
“Nếu bạn cấp quyền thẻ tín dụng cho một đại lý, nó ngay lập tức có thể truy cập vào tất cả các giao dịch lịch sử… nó sẽ lập tức — ít hơn vài giây — thu thập toàn bộ dữ liệu này,” Bagheri nói. Mặc dù người dùng sau đó có thể thu hồi quyền truy cập, nhưng anh ấy cho biết dữ liệu mà đại lý đã xem qua “không thể thu hồi lại”, và cách các nhà phát triển lưu trữ dữ liệu lịch sử thường không minh bạch.
Meta và OpenAI đều đã xây dựng chính sách bảo mật cho các đại diện AI mới của mình, những đại diện này chạy trên các máy tính đám mây riêng biệt. Người dùng có thể tắt việc chia sẻ bộ nhớ giữa dots và ChatGPT, nhưng thông tin mà đại diện đã nhận trước đó sẽ không bị xóa tự động. OpenAI cho phép người dùng yêu cầu truy cập, sửa đổi hoặc xóa thông tin cá nhân, tuy nhiên các quyền này có thể khác nhau tùy theo khu vực.
Muse của Meta cũng cho phép người dùng xóa lịch sử tin nhắn và các thông tin khác. Trong quá trình sử dụng hàng ngày, đại lý này sẽ yêu cầu người dùng cấp quyền truy cập — Meta cho biết, Muse sẽ “hiểu người dùng và đối tượng tương tác của họ dựa trên thông tin công khai và những nội dung bạn chọn chia sẻ”. Tuy nhiên, công ty khẳng định những thông tin này được cách ly an toàn cho từng người dùng.
Tuy nhiên, công ty công nghệ lớn này cũng lưu ý rằng Muse vẫn có thể “gặp lỗi hoặc thực hiện các hành động không lường trước”.
Càng có nhiều quyền hạn, rủi ro sai sót của đại lý AI càng cao
Trong trường hợp của Robb, anh sau đó phát hiện ra rằng việc rò rỉ địa chỉ xuất phát từ quyền “luôn luôn cho phép” mà anh đã cấp khi ban đầu kết nối Muse với hồ sơ Facebook Marketplace, nơi anh đã chia sẻ địa chỉ nhận hàng của mình. Nhưng anh nhắc nhở những người khác rằng người khác cũng có thể hiểu nhầm phạm vi quyền này—và ban đầu, anh nghĩ rằng, dù sao đi nữa, đại diện AI sẽ luôn xin xác nhận của anh trước khi chia sẻ thông tin như vậy hoặc chấp nhận lời đề nghị.
AI đại lý của anh ấy cũng không hoàn toàn không mắc lỗi khi thực hiện các lệnh khác. Đối với một sản phẩm khác mà Muse bán, AI dường như đã khuyên anh ấy chấp nhận một mức giá thấp hơn 100 USD so với mức giá tối thiểu đã thiết lập trước đó. Khi Reuters liên hệ với Meta, Meta đã thừa nhận lỗi của đại lý này nhưng không đưa thêm bình luận nào.
Sau đó, Robb gần như đã ngắt kết nối Muse với tất cả các ứng dụng của mình. Trong một cuộc phỏng vấn vào đầu tháng này, anh cho biết tình huống có thể còn tồi tệ hơn, đặc biệt là “nếu một người lạ xuất hiện trước cửa nhà những người dễ tổn thương hơn.” Tuy nhiên, Robb cũng cho biết anh dự kiến các đại lý này sẽ tiếp tục được tối ưu hóa và anh vẫn có thể cân nhắc bật lại Muse trong tương lai. Sau đó, anh còn đang thử nghiệm một đại lý AI khác—Grok Bot của X, công ty do Elon Musk sở hữu, sản phẩm này đã bước vào phiên bản thử nghiệm vào tháng 8.
Các công ty công nghệ khác cũng bắt đầu cảnh giác trước sự mở rộng nhanh chóng của các đại lý AI. Đầu tháng này, Apple cho biết sẽ giới thiệu các biện pháp kiểm soát mới cho hệ điều hành Mac để phản ứng trước vấn đề các đại lý AI có quyền truy cập rộng rãi hơn vào các ứng dụng như email, tin nhắn và thậm chí là lịch sử duyệt web mà người dùng “không hoàn toàn biết đến và hiểu rõ”.
Apple viết trong bản cập nhật ngày 2 tháng 10: “Khi các đại lý AI trở nên mạnh mẽ và tự chủ hơn, các rủi ro liên quan đến mức độ truy cập này sẽ tăng lên đáng kể.”
Apple không nêu tên bất kỳ nhà phát triển hay đại lý nào, nhưng trước và sau khi cập nhật này được phát hành, nhà viết chuyên mục của tạp chí Inc., Jason Aten, báo cáo rằng Muse đã xem các thông báo trên Mac của anh ấy — bao gồm Messages — trong khi anh ấy chưa cấp quyền cụ thể này cho đại lý.
Người phát ngôn của Meta, Andy Stone, luôn khẳng định rằng các tích hợp loại này “hoàn toàn do người dùng tự nguyện kích hoạt”, và ông đã viết trên mạng xã hội vào tháng trước rằng người dùng phải đồng thời bật tính năng bảo mật của Apple “Full Disk Access” và bộ kết nối Messages của Muse. Aten cho biết, ông đã không cấp các quyền này cho đại diện này.
Ngay cả những người không tham gia làn sóng AI agent cũng chưa chắc đã hoàn toàn đứng ngoài cuộc. Người tiêu dùng không tải AI agent vẫn có thể tương tác với những người sử dụng các công cụ này. Ngoài sự hỗn loạn có thể xảy ra do AI agent gửi tin nhắn thay người dùng, các chuyên gia còn cảnh báo rằng điều này sẽ gây ra những ảnh hưởng dây chuyền đến quyền riêng tư.
“Khi đại lý của bạn đọc hộp thư đến hoặc tin nhắn của bạn, nó cũng đang đọc các nội dung mà bạn bè và gia đình bạn gửi cho bạn, ngay cả khi họ chưa bao giờ đồng ý rõ ràng điều này,” Rivera nói.