Ce qui me dérange le plus chez Anthropic, c’est qu’elle croit sincèrement que, simplement parce qu’elle pense agir dans le meilleur intérêt, elle peut prendre de nombreuses décisions à la place des utilisateurs. Elle vient de publier un rapport d’intelligence des menaces de 154 pages, qui recense des cas où Claude a été utilisé pour des cyberattaques, des escroqueries, des recherches biologiques, le développement d’armes, la distillation de modèles, etc. Comment ces cas ont-ils été recueillis ? Anthropic surveille la manière dont les utilisateurs utilisent Claude, identifie les comptes qu’elle juge problématiques, mène des enquêtes supplémentaires, analyse leurs comportements, puis détermine s’ils ont franchi une ligne. Si elle estime qu’il y a un risque, elle suspend le compte. Ensuite, elle compile ces incidents dans un rapport pour expliquer au public ce qu’elle a découvert et ce qu’elle a empêché. Et Anthropic a déjà fait cela à plusieurs reprises. Elle utilise des conversations réelles entre utilisateurs et Claude pour étudier ce que les gens discutent avec l’IA, la manière dont ils en dépendent, leurs valeurs, et les circonstances dans lesquelles ils ressentent certaines émotions. Elle vous dira que les données ont été anonymisées et que ces recherches visent à rendre l’IA plus sûre. Mais je trouve cela précisément très arrogant. Pourquoi, simplement parce que vous dites « pour la sécurité de l’IA », pouvez-vous regarder ce que font les utilisateurs ? Pourquoi pensez-vous que cela mérite d’être étudié, au point que les données des utilisateurs puissent être utilisées à cette fin ? Si elle juge qu’un certain comportement d’investissement est trop risqué, qu’un débat politique pourrait causer du tort, qu’un contenu pour adultes va à l’encontre de ses principes, ou qu’une recherche sur l’IA est trop dangereuse, peut-elle aussi regarder, limiter, ou suspendre ? Selon la logique actuelle d’Anthropic, bien sûr qu’elle le peut. Parce qu’elle part toujours du principe suivant : Anthropic sait mieux que les utilisateurs ce qui doit ou ne doit pas être fait. C’est pourquoi je n’ai jamais cru à la narration d’Anthropic sur la « sécurité de l’IA ». Une entreprise qui prétend constamment craindre que l’IA prenne des décisions à la place des humains s’habitue de plus en plus à prendre elle-même des décisions à la place de ses utilisateurs. C’est trop vieux jeu. Les vieux jeux sont destinés à être vaincus.