Après avoir ajouté un plugin Apple Messages pour la version bureau de ChatGPT, OpenAI permet aux utilisateurs sur Mac de faire rechercher au robot de discussion des anciens messages, résumer des conversations de groupe, rédiger des réponses et envoyer des messages directement. Cette fonctionnalité nécessite une autorisation manuelle de l'utilisateur, mais les autres participants à la même conversation ne reçoivent aucune notification, ce qui a rapidement suscité des controverses sur la vie privée et la sécurité.
Focus on access after decryption
Plusieurs experts en sécurité soulignent que la polémique ne porte pas sur le fait que ChatGPT ait cassé le chiffrement de bout en bout d'Apple, mais sur le fait que, une fois le message arrivé sur l'appareil du destinataire, son contenu peut être lu par des logiciels locaux. Autrement dit, le chiffrement lors de la transmission n'a pas été compromis, mais dès qu'un outil tiers obtient un accès à l'appareil, les contenus initialement visibles uniquement entre les deux parties de la conversation peuvent être récupérés et analysés par des systèmes supplémentaires.
L'expert en sécurité et vie privée Paul Walsh a déclaré à Fortune que le plus préoccupant avec ce type d'accès est que l'autorisé ne se contente pas de partager ses propres données, mais expose également les messages d'autres personnes issus de plusieurs années de conversations à des systèmes tiers. Pour les personnes qui comptent sur des communications chiffrées pour gérer des affaires sensibles, cela affaiblit leur attente de confidentialité dans leurs échanges.
OpenAI affirme que les données sont conservées par défaut localement
OpenAI indique qu'après l'activation des plugins, ChatGPT n'indexe pas automatiquement les informations utilisateur ni ne lit activement l'ensemble des conversations. Le système n'accède aux messages concernés que lorsque l'utilisateur émet explicitement une demande liée au contenu de ces informations.
L'entreprise a également déclaré que la version bureau de ChatGPT enregistre par défaut les conversations pertinentes sur l'ordinateur local, et que le contenu provenant d'iMessage ne sera pas synchronisé automatiquement sur les serveurs d'OpenAI. Toutefois, si l'utilisateur choisit d'enregistrer les conversations ChatGPT dans le cloud, ces messages seront soumis aux mêmes règles de stockage et de conservation, et pourraient également être intégrés à la fonction Mémoire cloud.
- Par défaut, le contenu des messages est conservé localement sur l'ordinateur Mac de l'utilisateur.
- Le système n'accède au contenu d'information qu'après une question explicite.
- Si la conversation est sauvegardée dans le cloud, les contenus associés y seront également transférés.
Les entreprises de sécurité s'inquiètent de l'élargissement continu des autorisations
Dave Richardson, chef technologue de la société de sécurité mobile Lookout, a déclaré qu'appeler cette fonctionnalité directement « logiciel espion » pourrait être excessif, car elle est désactivée par défaut et nécessite une autorisation explicite de l'utilisateur. Toutefois, il a ajouté que cela présente toujours un risque significatif pour les canaux de communication auparavant considérés comme sûrs.
Il a souligné que le chiffrement de bout en bout protège le transfert des messages entre les appareils, empêchant la plateforme ou l'opérateur réseau de lire le contenu en transit, mais une fois les messages arrivés sur l'appareil final, celui-ci peut toujours y accéder. Si les utilisateurs partagent ensuite ce contenu avec des services tiers tels qu'OpenAI ou Anthropic, la portée réelle de la protection offerte par le chiffrement de bout en bout se réduit.
L'entreprise de confidentialité Proton a également publié une analyse mardi indiquant que ce type de risque peut se propager à des personnes n'ayant jamais utilisé ChatGPT, car leurs messages peuvent être accessibles dès lors que l'autre interlocuteur a activé des plugins. Proton a également souligné que l'autorisation de « l'accès complet au disque » requise lors de l'installation constitue en soi une préoccupation de sécurité plus large.
L'IA pénètre davantage d'applications sensibles
Cette controverse reflète également le fait que les outils d'IA passent des boîtes de discussion à des autorisations plus profondes sur les appareils. Les recherches fournies par Lookout à Fortune montrent que, au cours de la dernière année, les applications liées à l'IA ont continué à demander davantage de permissions de données et de capacités à haut risque, une tendance qui s'accentue également sur la plateforme iOS.
OpenAI précise que ce plugin n'est pas une nouvelle interface iMessage créée spécifiquement par Apple pour ChatGPT, mais qu'il utilise les fonctionnalités existantes de macOS. Lors de l'installation, les utilisateurs doivent accorder des autorisations pour AppleScript, l'accessibilité et l'accès complet au disque.
À mesure que les agents IA acquièrent davantage de contrôle sur les appareils, la controverse ne se limite plus à « l'utilisateur est-il prêt à accorder l'autorisation ? », mais inclut également la question de savoir si les autres participants à une conversation sont informés, ainsi que la possibilité de nouvelles sorties de données après que les communications privées aient été récupérées, résumées et conservées à long terme par l'IA.