Chris Thomas 幾乎將自己「全副武裝」在 AI 設備裡。
43歲的Thomas佩戴著Meta帶攝像頭的眼鏡、Fieldy的記事吊墜,以及亞馬遜Bee推出的一款腕帶,這些設備都會記錄他的日常生活。這位來自匹茲堡的企業主兼直播主表示,這些設備幫助他保持條理、按时繳交帳單並設置提醒。
Thomas 在受訪時表示:「我健忘得很。我的生活太瘋狂了,不用總想著記住事情,感覺太棒了。」
但並不是每個人都接受他的生活方式。就在本週早些時候,他在當地一家酒吧時,一名旁觀者注意到了他的 Meta 眼鏡。
Thomas 說:「他當時就說,『我不太舒服。』我不會把它關掉,我會直接摘下來,因為人們並不真的相信它是關著的。」
隨著越來越多科技公司推出由 AI 驅動、始終聆聽的設備和功能,用戶正越來越頻繁地面對類似互動。這些產品被宣傳為有用工具,可用於轉錄會議、記錄對話、設置提醒並提供個性化推薦。
這類設備的最新例子於週四亮相:亞馬遜推出了 Bee Frontier 可穿戴設備和 Bee Eclipse,這是一款可連接到智慧型手機的卡片狀設備。兩款產品均旨在記錄、轉錄並分析用戶的一天。
蘋果在9月發布的最新 Apple Watch Series 12 將配備 Siri Recap,它會在一天中以「環境式」方式做筆記並生成對話摘要。另一項名為 Live Rewind 的功能,可透過文字轉錄回顧一段對話的 15 秒內容。
Meta 廣受歡迎的智慧眼鏡可拍照、錄製影片,並錄製語音備忘或提醒。Plaud 和 Pocket 等初創公司也開發了卡片大小的記事設備,而 Friend 則推出了一款 AI 項鍊。
These devices have raised external concerns: they may erode privacy by secretly recording without bystanders' consent and collecting sensitive data that could be accessed by others.
亞馬遜、谷歌以及其他語音激活智能音箱製造商在產品剛上市時也曾面臨類似的隱私擔憂,有些案例最終導致訴訟和監管罰款。
但這一代新的 AI 設備也在測試隱私法的邊界。
與早期那些透過所謂「喚醒詞」啟動、有時會儲存錄音或將音頻發送到雲端的智慧音箱不同,這些產品中的一些能夠持續監聽、解釋語音並提取其含義,而無需保留底層音頻。這項能力引出了一個迄今仍缺乏充分檢驗的問題:這種處理本身是否構成非法竊聽。
圖夫茨大學工程學院研究生教育院長、IEEE研究員Karen Panetta表示:「面對這類新技術,我的態度始終是謹慎擁抱。」
她補充說:「如果我允許自己被錄音,或者允許我看到的一切都被錄音,這並不意味著我周圍的每個人都已經同意了。」
灰色地帶
蘋果和亞馬遜似乎已經繞開了早期語音助手曾引發的一些隱私爭議。
蘋果表示,此功能不會儲存音訊、不會將錄音傳送至其伺服器,也不會涉及人工審查。亞馬遜則表示,它不會儲存 Bee 設備的音訊,對話會在一個安全環境中處理,「在這裡包括亞馬遜在內的任何人都無法存取你的資料」。
但這未必能解決法律問題。
許多州的竊聽和偷聽法律,關注的是私人通信是否被攔截,或其內容是否被獲取,而不只是是否形成了傳統意義上的音頻錄音。
Foley Hoag 的隱私與資料安全律師 Colin Zick 表示,蘋果似乎已從第一波關於語音助手的訴訟中吸取了教訓。但新技術提出了以往案件從未需要回答的問題:如果系統持續監聽、解釋語音並將其轉化為摘要,即使未儲存底層音頻,這是否仍可能構成「攔截」?
某些州的法律對「攔截」的定義非常廣泛。以馬薩諸塞州為例,其法律將攔截設備定義為能夠「傳輸、接收、放大或記錄」通信的設備,而通信的「內容」也可包括其實質和含義。
在 Zick 看來,一款持續接收語音並生成書面摘要的設備,即便沒有保留音頻文件,也可能落入這一表述範圍。
而在一些州,更大的法律風險或許不在蘋果、亞馬遜或其他AI設備製造商身上,而在佩戴設備的人本人身上。
Zick 說:「沒有佩戴設備的人並未購買這款手錶,也未同意蘋果的條款,更未選擇讓自己的對話在應用中被總結。」
新罕布什爾大學富蘭克林·皮爾斯法學院副教授 Daniel Pi 表示,他認為新罕布什爾州的法規範圍足夠廣泛,蘋果手錶的新音訊智能功能將被視為一種攔截。該法律涵蓋的不僅是錄音,還包括通信內容的「聽覺或其他獲取」。
這可能會造成一種不同尋常的局面:普通消費者啟用主流設備內置的功能,在私人對話中使用時,至少從技術上講,可能因未獲得所有人的同意而違反州法律。
Pi 表示,新罕布什爾州的用戶因此可能面臨民事或刑事責任,但他強調,實際被起訴的風險要低得多。要確定某人是否一開始就啟用了此項功能可能並不容易,而且他表示,如果只是單純違反法規且無人受損,他會對檢方提起此類案件感到意外。
這些法律問題也與早期智能音箱和語音助手引發的爭議不同。那些案件通常圍繞設備誤觸發,或捕捉到並非有意作為命令的語音展開。而此處的功能本就是為了獲取並解釋對話內容,且用戶是主動選擇加入的。
Pi 說,這改變了分析方式,也可能把責任從技術公司轉移到佩戴者身上。
旁觀者
更廣泛的隱私擔憂不僅在於誰要承擔法律責任。
前中情局官員、Veilant 新興技術高級副總裁 Michael Stokes 表示,更大的變化在於,人們可能在沒有擁有、也未必知道自己正在與之互動的設備的情況下,被捲入由 AI 驅動的監控之中。
Stokes 說:「我真正擔心的是旁觀者問題——你可能在沒有擁有這項技術的情況下就被監視了。」
他指出,從智能眼鏡到手錶,再到 AI 錄音器,越來越多的攝像頭、麥克風和感測器被嵌入消費設備。不同之處在於,如今 AI 可以快速解釋這些設備收集到的內容,並從遠比早期消費科技更大量的資訊中提取意義。
在Stokes看來,這讓Apple Watch成為隱私格局更大變化的其中一部分。在CIA任職期間,他協助提出了「無處不在的技術監控」這一概念,用以描述這樣一個世界:日常設備會持續生成資訊,而這些資訊可能揭示身份、位置和關聯關係。
他表示,問題不僅在於可以收集更多數據,還在於理解這些數據的成本已大幅下降。
Stokes 表示,過去的情報收集可能需要數千小時的工作,才能收集、整理並分析某個人的資訊。AI 正越來越多地自動化這一過程,使得從可能只是偶然收集到的資料中提取有用資訊,變得更便宜也更容易。
這會為那些從一開始就沒有選擇加入這項技術的人帶來新的暴露風險——無論是附近可穿戴設備捕捉到的私人對話,還是由他們並不擁有的設備收集到的資訊。
Stokes 說:「我們不再擁有過去以為存在的那些小塊隱私空間了。」
創業公司 Deveillance 的創始人 Aida Baradari 正試圖將部分控制權歸還給那些擔心在未獲同意情況下被錄音的人。
這家公司打造了一款名為 Spectre I 的冰球狀設備,它利用 AI 掃描附近設備,並發出「對抗性訊號」,在麥克風處理語音之前擾亂對方的講話。
Baradari 說,隨著更多 AI 可穿戴設備進入市場,她覺得用戶應該對自己如何與這些設備互動擁有更大的發言權。
她說:「我們需要在使用技術的同時,不放棄我們的核心價值或權利。」
