Крис Томас почти полностью окружил себя устройствами на базе ИИ.
43-летний Томас носит очки Meta с камерой, брелок-блокнот Fieldy и браслет от Amazon Bee, все эти устройства фиксируют его повседневную жизнь. Этот предприниматель и стример из Питтсбурга говорит, что эти устройства помогают ему поддерживать порядок, вовремя оплачивать счета и ставить напоминания.
Томас сказал в интервью: «Я очень плохо запоминаю вещи. Моя жизнь слишком сумасшедшая, чтобы постоянно стараться что-то запомнить — это просто замечательно».
Но не все принимают его образ жизни. Еще в начале этой недели, когда он находился в местном баре, один из зрителей заметил его очки Meta.
Томас сказал: «Он тогда сказал: „Мне нехорошо.“ Я не выключу его, я просто сниму, потому что люди действительно не верят, что он выключен.»
По мере того как все больше технологических компаний выпускают устройства и функции, основанные на ИИ и постоянно слушающие, пользователи все чаще сталкиваются с подобными взаимодействиями. Эти продукты позиционируются как полезные инструменты для транскрибирования встреч, записи разговоров, установки напоминаний и предоставления персонализированных рекомендаций.
Наиболее свежие примеры таких устройств были представлены в четверг: Amazon выпустил носимое устройство Bee Frontier и карту Bee Eclipse, которая подключается к смартфону. Оба устройства предназначены для записи, транскрибирования и анализа дня пользователя.
Новейшие Apple Watch Series 12, выпущенные Apple в сентябре, будут оснащены Siri Recap, который будет «в фоновом режиме» делать заметки в течение дня и генерировать сводки диалогов. Еще одна функция под названием Live Rewind позволит просматривать 15-секундные фрагменты диалогов с помощью текстовой транскрипции.
Популярные умные очки Meta могут делать фотографии, записывать видео и записывать голосовые заметки или напоминания. Стартапы, такие как Plaud и Pocket, также разработали карточные устройства для заметок, а Friend выпустила AI-ожерелье.
Эти устройства вызвали обеспокоенность со стороны внешних наблюдателей: они могут нарушать конфиденциальность, тайно записывая аудио без согласия окружающих и собирая чувствительные данные, которые могут быть получены другими.
Amazon, Google и другие производители голосовых умных колонок также сталкивались с аналогичными опасениями по поводу конфиденциальности при запуске своих продуктов, и некоторые случаи в конечном итоге привели к судебным искам и штрафам со стороны регуляторов.
Но новые устройства на базе ИИ также проверяют границы законов о конфиденциальности.
В отличие от ранних умных колонок, которые активировались с помощью так называемых «ключевых слов» и иногда сохраняли записи или отправляли аудиофайлы в облако, некоторые из этих продуктов могут постоянно прослушивать, интерпретировать речь и извлекать ее смысл, не сохраняя исходное аудио. Эта способность порождает вопрос, который до сих пор не был достаточно исследован: само по себе такое обработка может ли считаться незаконным прослушиванием.
Карен Панетта, декан по аспирантуре в Школе инженерии Университета Туфтс и член IEEE, говорит: «Мой подход к таким новым технологиям всегда заключается в осторожном принятии».
Она добавила: «Если я позволяю себе записываться или позволяю записывать всё, что я вижу, это не означает, что все вокруг меня уже согласились».
Серая зона
Apple и Amazon, похоже, обходят некоторые конфликты с конфиденциальностью, которые возникли у ранних голосовых помощников.
Apple заявляет, что эта функция не сохраняет аудио, не отправляет записи на свои серверы и не включает человеческий контроль. Amazon говорит, что аудио с устройства Bee не сохраняется, а разговоры обрабатываются в безопасной среде, «где никто, включая Amazon, не имеет доступа к вашим данным».
Но это не обязательно решит правовые проблемы.
Законы о прослушивании и подслушивании во многих штатах касаются того, были ли перехвачены частные сообщения или получены их содержания, а не только того, была ли создана аудиозапись в традиционном понимании.
Адвокат по вопросам конфиденциальности и кибербезопасности Foley Hoag Колин Зик заявил, что Apple, похоже, извлекла уроки из первой волны исков, связанных с голосовыми помощниками. Однако новые технологии ставят вопросы, на которые предыдущие дела никогда не требовали ответа: если система постоянно прослушивает, интерпретирует речь и преобразует ее в краткое содержание, даже не сохраняя исходный аудиофайл, может ли это все еще считаться «перехватом»?
Законы некоторых штатов широко определяют понятие «перехвата». Например, в Массачусетсе закон определяет перехватывающее устройство как устройство, способное «передавать, принимать, усиливать или записывать» сообщения, а «содержание» сообщения может включать его суть и значение.
По мнению Зика, устройство, которое постоянно принимает голосовые сообщения и генерирует письменные аннотации, даже если не сохраняет аудиофайлы, может попадать под это определение.
В некоторых штатах более серьезные правовые риски могут быть не у Apple, Amazon или других производителей устройств ИИ, а у самих людей, носящих эти устройства.
Зик сказал: «Люди, не носящие устройство, не покупали эти часы, не соглашались с условиями Apple и не выбирали возможность суммирования своих разговоров в приложении».
Даниэль Пи, доцент юридической школы Франклина Пирса при Университете Нью-Гэмпшира, считает, что законодательство Нью-Гэмпшира достаточно широко, чтобы новые аудио-интеллектуальные функции Apple Watch рассматривались как перехват. Закон охватывает не только запись, но и «аудиальное или иное получение» содержания коммуникаций.
Это может создать необычную ситуацию: обычные потребители, используя встроенную функцию популярного устройства в частной беседе, могут технически нарушить закон штата из-за отсутствия согласия всех участников.
Пи отметил, что пользователи Нью-Гэмпшира могут столкнуться с гражданской или уголовной ответственностью, однако он подчеркнул, что реальный риск привлечения к ответственности значительно ниже. Определить, был ли функционал изначально включен у конкретного пользователя, может быть непросто, и он выразил удивление, если обвинение будет возбуждено только за техническое нарушение закона при отсутствии пострадавших.
Эти правовые вопросы отличаются от споров, вызванных ранними умными колонками и голосовыми помощниками. В тех делах речь, как правило, шла о ложных срабатываниях устройств или захвате речи, не предназначенной в качестве команды. Здесь же функция предназначена именно для получения и интерпретации диалогов, и пользователи добровольно согласились на её использование.
Pi говорит, что это меняет подход к анализу и может переложить ответственность с технологических компаний на пользователей.
Зритель
Более широкие опасения по поводу конфиденциальности касаются не только того, кто будет нести юридическую ответственность.
Бывший сотрудник ЦРУ, старший вице-президент по новым технологиям Veilant Майкл Стокс заявил, что более значительные изменения заключаются в том, что люди могут быть вовлечены в наблюдение, управляемое ИИ, не владея и даже не осознавая, с какими устройствами они взаимодействуют.
Стокс сказал: «Моя настоящая тревога — это проблема наблюдателя — вас могут наблюдать, даже если вы не обладаете этой технологией».
Он отметил, что все больше камер, микрофонов и датчиков встраиваются в потребительские устройства — от смарт-очков до часов и AI-диктофонов. Разница в том, что сегодня ИИ может быстро интерпретировать содержимое, собираемое этими устройствами, и извлекать смысл из гораздо большего объема информации, чем это было возможно в ранних потребительских технологиях.
По мнению Стокса, это делает Apple Watch частью более широких изменений в области конфиденциальности. Во время работы в ЦРУ он помог сформулировать концепцию «всепроникающего технологического наблюдения», описывающую мир, в котором повседневные устройства постоянно генерируют информацию, способную раскрывать личность, местоположение и связи.
Он отметил, что проблема заключается не только в возможности сбора большего объема данных, но и в том, что стоимость их анализа значительно снизилась.
Стокс сказал, что ранее сбор разведданных мог требовать тысячи часов работы для сбора, упорядочивания и анализа информации о человеке. ИИ все чаще автоматизирует этот процесс, делая извлечение полезной информации из данных, собранных случайно, более дешевым и простым.
Это создает новый риск экспозиции для тех, кто изначально не выбрал участие в этой технологии — будь то частный разговор, захваченный ближайшим носимым устройством, или информация, собранная устройством, которым они не владеют.
Стокс говорит: «Мы больше не обладаем теми небольшими пространствами конфиденциальности, о которых раньше думали».
Основатель стартапа Deveillance Аида Барадари пытается вернуть часть контроля тем, кто беспокоится о записи без их согласия.
Эта компания создала устройство под названием Spectre I, имеющее форму хоккейной шайбы, которое с помощью ИИ сканирует ближайшие устройства и генерирует «контрсигналы», нарушающие речь собеседника до того, как микрофон обработает звук.
Baradari сказала, что по мере выхода на рынок все большего количества AI-носимых устройств она считает, что пользователи должны иметь больше влияния на то, как они взаимодействуют с этими устройствами.
Она сказала: «Нам нужно уметь использовать технологии, не отказываясь от наших основных ценностей или прав».