Le créateur de contenu de Toronto, Matt Robb, souhaite vendre son clavier d'ordinateur.
Il a donc publié l'article sur Facebook Marketplace et a réalisé, à la fin du mois dernier, une expérience en confiant le nouvel agent artificiel de Meta, Muse, pour le gérer.
« Je me suis essentiellement comporté comme un cobaye », a déclaré Robb. Passionné par les tests de produits électroniques grand public, il a voulu voir si cet agent IA, représenté par un avatar en forme de jouet en peluche sur Instagram, pouvait lui épargner certaines difficultés liées à la négociation en ligne.
Muse a commencé à fonctionner. Mais moins d'une journée plus tard, Robb a reçu une mise à jour inquiétante : un acheteur qu'il ne connaissait pas s'est présenté à sa porte en pleine nuit. Qu'est-ce qui s'est passé ? Muse a conclu la transaction toute seule et a partagé l'adresse de Robb après avoir accepté la livraison à domicile. Lorsque l'acheteur est arrivé, elle a même envoyé automatiquement un message de son compte disant « Yep, I'm here ! » — sans que Robb ne soit au courant.
« Il n’a pas seulement donné mon adresse lorsqu’on me l’a demandée, mais il a aussi semblé se moquer de la personne (en disant que j’étais chez moi, alors que je n’y étais pas), » dit Robb. Il a également décrit en détail cette expérience dans son post sur les réseaux sociaux, qui s’est désormais largement diffusé. « Cela m’a vraiment mis dans l’embarras. »
De nombreuses personnes ont déjà intégré des agents IA dans leur vie numérique et ont salué des assistants personnalisés comme Muse, capables de gérer facilement les tâches quotidiennes — de l’organisation du dîner et de la planification de voyages à la gestion de la boîte de réception e-mail. Mais, comme d’autres robots IA, les capacités de ces agents dépendent de la quantité d’informations auxquelles ils ont accès. Plus ils en savent, mieux ils performant généralement — ce qui peut inclure les amis, la famille, voire les collègues de l’utilisateur. Cela soulève des préoccupations en matière de confidentialité.
Robb et l'acheteur ont finalement trouvé un accord, et Meta l'a également contacté pour discuter de ce qui avait mal tourné. Mais cet incident révèle les risques réels qui peuvent survenir lorsque les gens partagent de nombreuses informations personnelles avec ce type de technologie.
« Utiliser un agent IA, c’est comme remettre vos clés et votre liste de tâches à quelqu’un d’autre », explique Veronica Rivera, professeure adjointe à l’École de cybersécurité et de vie privée de l’Institut de technologie de Géorgie. « Leur utilité, et donc leur danger potentiel, dépendent des ‘clés’ que vous leur confiez. »
Les politiques de confidentialité des agents IA varient selon les entreprises.
Depuis son lancement en septembre, le nombre de téléchargements de l'application Muse de Meta a fortement augmenté. La concurrence s'intensifie également. OpenAI a récemment lancé sa propre série d'assistants IA « toujours actifs », appelée dots, intégrables à ChatGPT ainsi qu'à des plateformes professionnelles telles que Slack et Microsoft Teams.
Les chatbots d'IA générative de génération précédente, comme ChatGPT standard, répondent à des prompts spécifiques. À la demande des utilisateurs, ils peuvent rédiger des articles, générer de nouvelles images ou de la musique, et même écrire du code.
Les Muse de Meta et les dots d'OpenAI vont plus loin en effectuant des tâches quotidiennes pour les utilisateurs. Les agents IA sont alimentés par les mêmes grands modèles linguistiques que les chatbots, mais ils s'exécutent en boucle. Cela permet aux agents d'agir activement même lorsque les utilisateurs ne regardent pas leur écran.
« Ce qui rend ces agents IA vraiment attrayants, c’est qu’ils sont sans précédent dans leur utilité », déclare Rivera. Elle est également boursière de recherche en IA digne de confiance de la Computing Research Association, financée par Microsoft.
Mais ce confort a un prix : il faut partager davantage de détails sur votre vie.
Le professeur Ebrahim Bagheri de l'École d'information de l'Université de Toronto affirme qu'une fois qu'un agent IA a obtenu les informations de l'utilisateur, il est difficile de révoquer complètement l'accès.
« Si vous accordez des autorisations de carte de crédit à un agent, il peut immédiatement accéder à toutes les transactions historiques… Il absorbe toutes ces données instantanément — en moins de quelques secondes », explique Bagheri. Bien que les utilisateurs puissent ensuite révoquer ces autorisations, il affirme que les données déjà consultées par l’agent « ne peuvent pas être récupérées », et la manière dont les développeurs stockent les données historiques est souvent peu transparente.
Meta et OpenAI ont établi des politiques de confidentialité pour leurs nouveaux agents IA, qui fonctionnent sur des ordinateurs cloud dédiés. Les utilisateurs peuvent désactiver le partage de mémoire entre les dots et ChatGPT, mais les informations précédemment reçues par les agents ne seront pas supprimées automatiquement. OpenAI permet aux utilisateurs de demander l'accès, la correction ou la suppression de leurs données personnelles, bien que ces droits puissent varier selon la région.
Muse de Meta permet également aux utilisateurs de supprimer leurs historiques de messages et autres informations. Dans l'utilisation quotidienne, ce proxy demande aux utilisateurs l'autorisation d'accès — Meta indique que Muse « se base sur les informations publiques et les contenus que vous choisissez de partager » pour comprendre les utilisateurs et leurs interlocuteurs. Toutefois, l'entreprise affirme que ces informations sont isolées en toute sécurité pour chaque utilisateur.
Cependant, ce géant technologique a également souligné que Muse pourrait toujours « commettre des erreurs ou prendre des actions inattendues ».
Plus les autorisations de l'agent IA sont grandes, plus le risque d'erreur est élevé
Dans le cas de Robb, il a ensuite découvert que la fuite d'adresse provenait des autorisations « Toujours autoriser » qu'il avait accordées lorsqu'il avait initialement connecté Muse à son profil Facebook Marketplace, sur lequel il avait déjà partagé son adresse de retrait. Mais il a averti les autres que d'autres pourraient également mal comprendre l'étendue de ces autorisations — et qu'il croyait au départ que, quoi qu'il en soit, l'agent IA demanderait toujours sa confirmation avant de partager ce type d'informations ou d'accepter une offre.
Son agent IA n'est pas non plus infaillible lors de l'exécution d'autres instructions. Pour un autre bien qu'il vendait, Muse semble lui avoir suggéré d'accepter une offre de 100 dollars inférieure à son prix minimum fixé précédemment. Lorsque Reuters a contacté Meta, cette dernière a reconnu l'erreur de l'agent, mais n'a pas fourni de commentaire supplémentaire.
Robb a ensuite désactivé la connexion de Muse avec ses diverses applications. Lors d'une interview plus tôt ce mois-ci, il a déclaré que la situation aurait pu être pire, notamment « si un inconnu s'était présenté à la porte de quelqu'un de plus vulnérable ». Toutefois, Robb a également indiqué qu'il s'attend à ce que ces agents soient continuellement optimisés et qu'il envisagera toujours de réactiver Muse à l'avenir. Depuis, il teste également un autre agent IA — le Grok Bot de X, l'entreprise d'Elon Musk, qui est entré en version bêta en août.
D'autres entreprises technologiques commencent également à s'inquiéter de l'expansion rapide des agents IA. Plus tôt ce mois-ci, Apple a déclaré qu'il introduirait de nouvelles mesures de contrôle sur son système d'exploitation Mac pour répondre au fait que les agents IA ont un accès plus large à des applications telles que les e-mails, les messages et même l'historique de navigation, sans que les utilisateurs soient pleinement informés et conscients.
Apple a écrit dans sa mise à jour du 2 octobre : « À mesure que les agents IA deviennent de plus en plus puissants et autonomes, les risques associés à ce niveau d'accès augmenteront considérablement. »
Apple n'a pas nommé de développeur ou d'agent en particulier, mais avant et après cette mise à jour, Jason Aten, chroniqueur à la revue Inc., a rapporté que Muse a consulté les notifications sur son Mac — y compris Messages — sans avoir accordé à cet agent ces autorisations spécifiques.
Le porte-parole de Meta, Andy Stone, a maintenu que ces intégrations sont « entièrement volontaires et activées par l'utilisateur », ayant écrit sur les réseaux sociaux le mois dernier que les utilisateurs doivent activer à la fois la fonction de sécurité d'Apple « Full Disk Access » et le connecteur Messages de Muse. Aten a déclaré qu'il n'avait pas accordé ces autorisations à cet agent.
Même ceux qui n’ont pas participé à la frénésie des agents IA ne peuvent pas rester totalement à l’écart. Les consommateurs qui n’ont pas téléchargé d’agents IA peuvent toujours interagir avec des personnes qui les utilisent. Outre la confusion pouvant résulter de messages envoyés par des agents IA, les experts avertissent que cela a des répercussions en chaîne sur la vie privée.
« Lorsque votre agent lit votre boîte de réception ou vos messages texte, il lit également le contenu envoyé par vos amis et votre famille, même s’ils n’ont jamais expressément donné leur accord », déclare Rivera.