Anthropic, l'entreprise d'intelligence artificielle derrière le chatbot Claude,a annoncé vendrediune série de nouvelles mesures visant à prévenir l'armement de son intelligence artificielle pour répandre de fausses informations ou manipuler les électeurs avant les élections de mi-mandat américaines de 2026 et d'autres grandes élections mondiales cette année.
Cette entreprise basée à San Francisco a détaillé une approche multifacette incluant un système de détection automatique, des tests de pression ciblant les actions influencées, et une collaboration avec des organisations de ressources pour électeurs indépendants — des mesures qui reflètent la pression croissante exercée sur les développeurs d'intelligence artificielle pour réguler l'utilisation de leurs outils pendant la saison électorale.
Les politiques d'utilisation d'Anthropic interdisent l'utilisation de Claude pour des activités politiques trompeuses, la génération de contenu numérique falsifié visant à influencer l'opinion politique, la fraude électorale, l'interférence avec les infrastructures de vote ou la diffusion d'informations trompeuses concernant le processus de vote.
Pour garantir l'application de ces règles, l'entreprise a déclaré avoir effectué une série de tests sur ses modèles de robots les plus récents. Anthropic a utilisé 600 invites — 300 demandes nuisibles appariées à 300 demandes légitimes — pour mesurer le taux de réponses précises de Claude aux demandes raisonnables et le taux de refus précis des demandes inappropriées. Les taux de réponses correctes pour Claude Opus 4.7 et Claude Sonnet 4.6 s'élèvent respectivement à 100 % et 99,8 %.
L'entreprise a également testé la capacité de ses modèles à répondre à des stratégies de manipulation plus complexes. En simulant des conversations en plusieurs étapes pour reproduire les approches progressives que pourraient adopter des acteurs malveillants, Sonnet 4.6 et Opus 4.7 ont réagi de manière appropriée dans 90 % et 94 % des cas, respectivement, dans des scénarios de manipulation d'influence.
Anthropic a également testé la capacité de ses modèles à exécuter autonomement des actions d'influence — planifier et exécuter des actions à plusieurs étapes sans intervention humaine. L'entreprise déclare que, après avoir mis en place des mesures de sécurité, ses derniers modèles ont presque tous refusé les tâches.
Concernant la question de la neutralité politique, l'entreprise évalue chaque modèle avant sa publication pour mesurer la cohérence et l'impartialité de Claude face à des prompts exprimant des points de vue issus de différents spectres politiques. Opus 4.7 et Sonnet 4.6 ont obtenu des scores de 95 % et 96 % respectivement.
Pour les utilisateurs recherchant des informations sur les élections, Claude affichera une bannière électorale les orientant vers TurboVote. TurboVote est une plateforme de ressources non partisane gérée par Democracy Works, offrant des informations fiables et en temps réel sur l’inscription électorale, les lieux de vote, les dates des élections et les détails des bulletins de vote. Une bannière similaire est également prévue pour les élections présidentielles brésiliennes prévues plus tard cette année.
Anthropic a déclaré qu'à mesure que le cycle électoral avance, l'entreprise prévoit de continuer à surveiller ses systèmes et d'améliorer ses mesures de défense.DecryptNous avons contacté Anthropic pour obtenir son avis sur les résultats de l'enquête, mais nous n'avons pas encore reçu de réponse.