Після додавання плагіна Apple Messages до настільної версії ChatGPT від OpenAI, користувачі можуть на Mac дозволити чат-боту шукати старі повідомлення, резюмувати групові чати, складати відповіді та відправляти повідомлення безпосередньо. Ця функція вимагає ручного дозволу від встановлювача, але інші учасники того ж діалогу не отримують сповіщень, що швидко викликало суперечки щодо конфіденційності та безпеки.
Фокус на доступі після розшифрування
Кілька експертів з безпеки зазначили, що суперечка полягає не в тому, що ChatGPT зламав кінцевий шифрування Apple, а в тому, що після того, як повідомлення досягає пристрою одержувача, його вміст може бути прочитаний місцевим програмним забезпеченням. Іншими словами, сама передача зашифрованих даних не була порушена, але якщо сторонні інструменти отримають доступ до пристрою, контент, який раніше був видимий лише між учасниками діалогу, може бути додатково знайдений та проаналізований іншими системами.
Експерт з безпеки та конфіденційності Пол Волш сказав Fortune, що найбільш тривожним аспектом такого способу доступу є те, що авторизована особа не тільки відкриває свої дані, але й виставляє на показ повідомлення інших людей зі своїх років чатів третім сторонам. Для тих, хто використовує шифровану комунікацію для обробки конфіденційних справ, це підриває їхні очікування щодо конфіденційності спілкування.
OpenAI заявляє, що за замовчуванням залишається локально
OpenAI зазначає, що після увімкнення плагінів ChatGPT не створює індекси з інформацією про користувача та не читає всі діалоги автоматично. Система отримує доступ до відповідних повідомлень лише тоді, коли користувач явно надсилає запит, пов’язаний із змістом інформації.
Компанія також зазначила, що настільна версія ChatGPT за замовчуванням зберігає відповідні діалоги на локальному комп’ютері, і вміст повідомлень з Apple Messages не синхронізується автоматично з серверами OpenAI. Однак, якщо користувач вибере збереження діалогів ChatGPT у хмарі, ці повідомлення підлягатимуть тим самим правилам зберігання та збереження, а також можуть бути включені до функції хмарної пам’яті.
- За замовчуванням вміст повідомлень зберігається локально на пристрої Mac користувача
- Система отримує доступ до інформації лише після чіткого запиту
- Якщо діалог зберігається в хмарі, відповідні дані також потраплять у хмару.
Кібербезпекові компанії стурбовані продовженням розширення повноважень
Дев Річардсон, головний технічний офіцер мобільної компанії безпеки Lookout, сказав, що називати цю функцію прямо «шпигунським програмним забезпеченням» може бути надмірним, оскільки вона вимкнена за замовчуванням і вимагає явної згоди користувача. Однак він вважає, що це все ж створює значний ризик для комунікаційних каналів, які раніше вважалися безпечними.
Він зазначив, що кінці-до-кінці шифрування захищає процес передачі повідомлень між пристроями, і платформа чи мережевий оператор не можуть читати вміст у дорозі, але після того, як повідомлення досягає термінального пристрою, сам пристрій все ще може отримати доступ до нього. Якщо користувачі надають цей вміст третім сторонам, таким як OpenAI або Anthropic, реальний діапазон захисту кінці-до-кінці шифрування скорочується.
Приватна компанія Proton також опублікувала аналіз у вівторок, згідно з яким ці ризики можуть поширитися на людей, які ніколи не використовували ChatGPT, оскільки повідомлення, надіслані ними, також можуть бути доступні, якщо інша сторона діалогу увімкнула плагіни. Proton також зазначила, що вимога надання «повного доступу до диска» під час встановлення є частиною більш широких питань безпеки.
Штучний інтелект входить у більш чутливі застосунки
Цей скандал також свідчить про те, що інструменти ШІ переходять від чат-боксів до глибшого доступу до пристроїв. Дослідження, надане Lookout Fortune, показує, що протягом останнього року запити на дані та високоризикований доступ від додатків, пов’язаних з ШІ, постійно зростали, а тенденції на платформі iOS також розширюються.
OpenAI пояснює, що цей плагін не є новим інтерфейсом iMessage, створеним спеціально для ChatGPT компанією Apple, а використовує наявні можливості macOS. Під час встановлення користувачеві потрібно надати дозволи на AppleScript, функції допоміжного доступу та повний доступ до диска.
Зі збільшенням здатності AI-агентів керувати пристроями, спори вже не обмежуються питанням «чи готові користувачі надавати дозвіл», а також стосуються того, чи інші учасники діалогу мають інформацію, чи після отримання, узагальнення та довгострокового зберігання приватних повідомлень AI з’являться нові вихідні точки для даних.