Chris Thomas gần như đã “trang bị đầy đủ” cho mình với các thiết bị AI.
Thomas, 43 tuổi, đeo kính Meta có camera, mặt dây chuyền ghi chú của Fieldy và một vòng đeo tay do Amazon Bee phát hành, tất cả các thiết bị này đều ghi lại cuộc sống hàng ngày của anh ấy. Doanh nhân và streamer đến từ Pittsburgh cho biết, những thiết bị này giúp anh ấy giữ gìn sự ngăn nắp, thanh toán hóa đơn đúng hạn và đặt nhắc nhở.
Thomas chia sẻ trong cuộc phỏng vấn: “Tôi hay quên rất nhiều việc. Cuộc sống của tôi quá bận rộn, nên không cần phải luôn cố nhớ mọi thứ, cảm giác thật tuyệt vời.”
Nhưng không phải ai cũng chấp nhận lối sống của anh ấy. Ngay đầu tuần này, khi đang ở một quán bar địa phương, một người chứng kiến đã nhận ra cặp kính Meta của anh ấy.
Thomas nói: “Lúc đó anh ấy đã nói, ‘Tôi cảm thấy không được khỏe.’ Tôi sẽ không tắt nó đi, mà sẽ tháo ra ngay lập tức, vì mọi người thực sự không tin rằng nó đã được tắt.”
Khi ngày càng nhiều công ty công nghệ ra mắt các thiết bị và tính năng được điều khiển bởi AI và luôn lắng nghe, người dùng đang ngày càng thường xuyên đối mặt với những tương tác tương tự. Những sản phẩm này được quảng bá như những công cụ hữu ích để ghi âm cuộc họp, ghi lại cuộc hội thoại, đặt lời nhắc và cung cấp các đề xuất cá nhân hóa.
Ví dụ mới nhất của các thiết bị này đã ra mắt vào thứ Năm: Amazon đã ra mắt thiết bị đeo tay Bee Frontier và Bee Eclipse, một thiết bị dạng thẻ có thể kết nối với điện thoại thông minh. Cả hai sản phẩm đều nhằm mục đích ghi lại, chuyển ngữ và phân tích ngày của người dùng.
Apple Watch Series 12 mới được Apple phát hành vào tháng 9 sẽ tích hợp Siri Recap, có khả năng ghi chú “môi trường” trong ngày và tạo tóm tắt hội thoại. Một tính năng khác gọi là Live Rewind cho phép xem lại 15 giây hội thoại thông qua bản chép lời nói.
Kính thông minh được ưa chuộng của Meta có thể chụp ảnh, quay video và ghi âm ghi chú hoặc nhắc nhở. Các công ty khởi nghiệp như Plaud và Pocket cũng đã phát triển các thiết bị ghi chú kích thước thẻ, trong khi Friend ra mắt một chiếc vòng cổ AI.
Các thiết bị này đã gây ra lo ngại từ bên ngoài: chúng có thể xâm phạm quyền riêng tư bằng cách ghi âm bí mật mà không có sự đồng ý của người xung quanh và thu thập dữ liệu nhạy cảm có thể bị người khác truy cập.
Amazon, Google và các nhà sản xuất loa thông minh kích hoạt bằng giọng nói khác cũng đã đối mặt với những lo ngại về quyền riêng tư tương tự khi sản phẩm vừa ra mắt, một số trường hợp cuối cùng dẫn đến các vụ kiện và phạt hành chính.
Nhưng thế hệ thiết bị AI mới này cũng đang thử thách ranh giới của các luật bảo vệ quyền riêng tư.
Khác với các loa thông minh thế hệ trước, vốn được kích hoạt bằng các “từ thức tỉnh” và đôi khi lưu trữ bản ghi âm hoặc gửi âm thanh lên đám mây, một số sản phẩm này có thể liên tục nghe, giải thích giọng nói và trích xuất ý nghĩa của nó mà không cần lưu trữ bản âm thanh gốc. Khả năng này đặt ra một câu hỏi chưa được kiểm tra đầy đủ cho đến nay: liệu chính quá trình xử lý này có cấu thành hành vi nghe lén bất hợp pháp hay không.
Karen Panetta, Hiệu trưởng Giáo dục Sau đại học tại Trường Kỹ thuật Đại học Tufts và là thành viên IEEE, nói: “Đối với những công nghệ mới như thế này, tôi luôn có thái độ đón nhận một cách thận trọng.”
Cô ấy bổ sung: “Nếu tôi cho phép bản thân bị ghi âm, hoặc cho phép mọi thứ tôi nhìn thấy đều bị ghi âm, điều đó không có nghĩa là mọi người xung quanh tôi đã đồng ý.”
Vùng xám
Apple và Amazon dường như đã vượt qua một số tranh cãi về quyền riêng tư từng gây ra bởi các trợ lý giọng nói thế hệ đầu tiên.
Apple cho biết tính năng này sẽ không lưu trữ âm thanh, không gửi bản ghi âm đến máy chủ của họ và không liên quan đến việc xem xét bởi con người. Amazon cho biết họ sẽ không lưu trữ âm thanh từ thiết bị Bee, các cuộc hội thoại sẽ được xử lý trong một môi trường an toàn, “nơi mà không ai, kể cả Amazon, có thể truy cập vào dữ liệu của bạn”.
But this may not resolve the legal issues.
Các luật về nghe lén và ghi âm tại nhiều tiểu bang tập trung vào việc liệu các cuộc giao tiếp riêng tư có bị chặn hay nội dung của chúng có bị truy cập hay không, chứ không chỉ đơn thuần là liệu có tạo ra bản ghi âm theo nghĩa truyền thống hay không.
Luật sư về quyền riêng tư và an ninh dữ liệu của Foley Hoag, Colin Zick, cho biết Apple dường như đã học được bài học từ làn sóng kiện tụng đầu tiên xung quanh trợ lý giọng nói. Tuy nhiên, các công nghệ mới đặt ra những câu hỏi mà các vụ án trước đó chưa từng cần trả lời: nếu hệ thống liên tục nghe, giải thích giọng nói và chuyển đổi chúng thành bản tóm tắt, ngay cả khi không lưu trữ âm thanh gốc, liệu điều này có vẫn có thể được coi là “nghe lén”?
Luật của một số tiểu bang định nghĩa rộng khái niệm “nghe lén”. Ví dụ tại Massachusetts, luật quy định thiết bị nghe lén là thiết bị có thể “truyền, nhận, khuếch đại hoặc ghi lại” các cuộc giao tiếp, và “nội dung” của cuộc giao tiếp cũng có thể bao gồm bản chất và ý nghĩa của nó.
Theo Zick, một thiết bị liên tục tiếp nhận âm thanh và tạo bản tóm tắt bằng văn bản, ngay cả khi không lưu trữ tệp âm thanh, cũng có thể nằm trong phạm vi mô tả này.
Tuy nhiên, ở một số tiểu bang, rủi ro pháp lý lớn hơn có thể không nằm ở Apple, Amazon hoặc các nhà sản xuất thiết bị AI khác, mà nằm ở chính người đeo thiết bị.
Zick nói: “Những người không đeo thiết bị đã không mua chiếc đồng hồ này, không đồng ý với các điều khoản của Apple, và cũng không chọn để cuộc trò chuyện của họ được tóm tắt trong ứng dụng.”
Giáo sư Daniel Pi từ Trường Luật Franklin Pierce, Đại học New Hampshire cho biết, ông cho rằng phạm vi quy định của bang New Hampshire đủ rộng để các tính năng thông minh về âm thanh mới của đồng hồ Apple được coi là một dạng chặn. Luật này không chỉ bao gồm việc ghi âm mà còn bao gồm việc “nghe hoặc thu thập” nội dung giao tiếp.
Điều này có thể tạo ra một tình huống bất thường: người tiêu dùng thông thường kích hoạt tính năng tích hợp trong thiết bị phổ biến, và khi sử dụng trong cuộc trò chuyện riêng tư, ít nhất về mặt kỹ thuật, có thể vi phạm luật tiểu bang do không nhận được sự đồng ý của tất cả mọi người.
Pi cho biết, người dùng New Hampshire có thể đối mặt với trách nhiệm dân sự hoặc hình sự do đó, nhưng ông nhấn mạnh rằng nguy cơ thực sự bị truy tố là thấp hơn nhiều. Việc xác định liệu một người có đã kích hoạt tính năng này từ đầu hay không có thể không dễ dàng, và ông cho biết, nếu chỉ là vi phạm thuần túy về mặt pháp lý mà không có ai bị tổn hại, ông sẽ cảm thấy bất ngờ nếu cơ quan công tố khởi kiện các trường hợp như vậy.
Các vấn đề pháp lý này cũng khác với những tranh cãi từng phát sinh từ các thiết bị loa thông minh và trợ lý giọng nói trước đây. Những vụ việc đó thường xoay quanh việc thiết bị kích hoạt nhầm hoặc ghi lại những đoạn hội thoại không được chủ ý đưa ra như lệnh. Trong khi đó, tính năng ở đây vốn được thiết kế để thu thập và giải thích nội dung hội thoại, và người dùng đã chủ động lựa chọn tham gia.
Pi cho biết, điều này đã thay đổi cách phân tích và có thể chuyển trách nhiệm từ các công ty công nghệ sang người đeo.
Người quan sát
Những lo ngại về quyền riêng tư rộng lớn hơn không chỉ nằm ở việc ai sẽ chịu trách nhiệm pháp lý.
Michael Stokes, Phó Chủ tịch Cao cấp về Công nghệ Mới nổi của Veilant và cựu nhân viên CIA, cho biết sự thay đổi lớn hơn là mọi người có thể bị cuốn vào hệ thống giám sát do AI điều khiển mà không cần sở hữu hoặc thậm chí không nhận thức được rằng họ đang tương tác với các thiết bị đó.
Stokes nói: “Điều tôi thực sự lo lắng là vấn đề người chứng kiến — bạn có thể bị theo dõi mà không cần sở hữu công nghệ này.”
Anh ấy chỉ ra rằng, ngày càng có nhiều camera, microphone và cảm biến được tích hợp vào các thiết bị tiêu dùng, từ kính thông minh đến đồng hồ và thiết bị ghi âm AI. Sự khác biệt nằm ở chỗ, hiện nay AI có thể nhanh chóng giải thích nội dung mà các thiết bị này thu thập và rút ra ý nghĩa từ lượng thông tin nhiều hơn rất nhiều so với các công nghệ tiêu dùng trước đây.
Theo Stokes, điều này khiến Apple Watch trở thành một phần trong sự thay đổi lớn hơn về quyền riêng tư. Trong thời gian làm việc tại CIA, ông đã giúp đề xuất khái niệm “giám sát công nghệ phổ biến” để mô tả một thế giới nơi các thiết bị hàng ngày liên tục tạo ra thông tin có thể tiết lộ danh tính, vị trí và mối quan hệ.
Anh ấy cho biết, vấn đề không chỉ nằm ở việc có thể thu thập thêm dữ liệu, mà còn ở chi phí để hiểu những dữ liệu này đã giảm mạnh.
Stokes cho biết, trước đây việc thu thập thông tin có thể đòi hỏi hàng ngàn giờ làm việc để thu thập, sắp xếp và phân tích thông tin của một cá nhân. AI đang ngày càng tự động hóa quy trình này, giúp trích xuất thông tin hữu ích từ những dữ liệu có thể chỉ được thu thập một cách tình cờ trở nên rẻ hơn và dễ dàng hơn.
Điều này sẽ tạo ra một mức độ rủi ro tiếp xúc mới cho những người ngay từ đầu đã không chọn tham gia vào công nghệ này—dù là một cuộc trò chuyện riêng tư bị thiết bị đeo gần đó ghi lại, hay thông tin được thu thập bởi các thiết bị mà họ không sở hữu.
Stokes nói: “Chúng ta không còn những không gian riêng tư nhỏ bé như những gì trước đây từng nghĩ.”
Người sáng lập công ty khởi nghiệp Deveillance, Aida Baradari, đang nỗ lực trả lại một phần quyền kiểm soát cho những người lo ngại về việc bị ghi âm mà không được sự đồng ý.
Công ty này đã phát triển một thiết bị hình viên đá có tên Spectre I, sử dụng AI để quét các thiết bị xung quanh và phát ra tín hiệu đối kháng, làm nhiễu lời nói của người khác trước khi micro xử lý âm thanh.
Baradari cho biết, khi ngày càng nhiều thiết bị đeo thông minh AI được đưa ra thị trường, cô cảm thấy người dùng nên có nhiều quyền hơn trong việc quyết định cách họ tương tác với các thiết bị này.
She said: "We need to be able to use technology without giving up our core values or rights."