Meredith Whittaker, PDG de Signal, a déclaré lors d'un entretien avec Bloomberg concernant des chatbots tels que ChatGPT et Claude que les utilisateurs ne devraient pas considérer ces systèmes comme des « amis » ou des interlocuteurs dotés de conscience subjective. Elle a axé la discussion sur les questions de confidentialité et de permissions, estimant que les risques s'amplifient rapidement dès lors que ces outils sont intégrés en profondeur dans les services personnels.
Whittaker sur les limites d'utilisation de l'IA
Whittaker déclare qu'elle utilise elle-même des outils d'IA dans quelques cas spécifiques, comme la mise en forme de documents, mais qu'elle ne confie pas la pose de questions, la réflexion ou le processus d'écriture aux modèles. Elle affirme ne pas vouloir qu'un système générant des réponses à partir d'informations existantes remplace le processus de réflexion qui devrait être accompli individuellement.
Préoccupation concernant l'obtention de permissions sensibles entre applications
Elle a également répondu à une idée précédemment proposée par Mustafa Suleyman, responsable de l'activité IA de Microsoft, selon laquelle les utilisateurs pourraient laisser Microsoft Copilot effectuer leurs achats de Noël. Whittaker estime que pour réaliser ce scénario, le système devrait accéder à un grand nombre d'informations personnelles et effectuer des opérations à travers plusieurs services.
- Cartes de crédit et informations de paiement
- Historique de navigation du navigateur
- Contenu et contacts de Signal
Outre ces informations, ces systèmes peuvent également accéder à l'adresse domestique, aux agendas et envoyer des messages au nom de l'utilisateur à ses proches. Elle estime que cela ne relève plus d'une utilisation ponctuelle d'un outil unique, mais d'un accès étendu à plusieurs applications et services.
Signal considère ce type d'accès comme un risque de porte dérobée
Whittaker a ajouté que, si des capacités similaires étaient intégrées à des produits de communication cryptée comme Signal, cela équivaudrait pratiquement, du point de vue de la sécurité du produit, à l'installation d'une « porte dérobée ». Elle souligne ainsi que plus les fonctionnalités d'assistant IA s'approchent de l'exécution de tâches et de l'agent autonome, plus les utilisateurs doivent prêter attention aux autorisations concrètes qu'ils leur accordent.
Ces déclarations reflètent également un débat persistant dans la concurrence entre assistants IA : lorsque les produits passent de la réponse à des questions à la prise en charge des tâches pour les utilisateurs, le conflit entre commodité et protection de la vie privée devient plus direct.