Auteur : Chris Best
Traduction : Deep潮 TechFlow
DeepChao en bref : Jusqu'à 40 % du contenu sur les réseaux sociaux est déjà généré par l'IA, mais les lecteurs en sont souvent inconscients. Substack estime que ce « Claudefishing » (imposture d'écriture humaine) mine la confiance entre les lecteurs et les auteurs, menaçant les moyens de subsistance des créateurs de contenu. Leur réponse : laisser les lecteurs juger par eux-mêmes, plutôt que de faire la décision à leur place.
Internet difficile à distinguer entre vrai et faux
Il devient de plus en plus difficile de distinguer ce qui est réel sur Internet.
Ce problème est relativement léger sur Substack, et nous souhaitons le garder ainsi. À titre d’étape initiale, nous lançons aujourd’hui, en collaboration avec Pangram, une fonctionnalité dans l’application Substack. Désormais, vous pourrez scanner un texte pour voir quelle partie est probablement manuscrite et quelle partie a été réalisée avec l’aide d’une IA. Je détaillerai cela plus tard, mais d’abord, laissez-moi expliquer pourquoi c’est important.
Partout de l'eau, mais pas une goutte de potable
Selon les estimations de Pangram, la proportion de textes générés par l'IA sur certaines plateformes augmente, atteignant jusqu'à 40 %. Il s'agit d'un changement considérable. Beaucoup se plaignent que leur fil d'actualité est rempli de contenus sans âme. D'autres ne réalisent même pas qu'ils lisent des contenus créés par personne.
Le problème fondamental ne réside pas dans l'utilisation de l'IA par les gens, ni dans la qualité des sorties de l'IA. Tous les contenus créés avec de l'IA ne sont pas des déchets, et tous les déchets ne sont pas créés par l'IA. Le problème survient lorsque les attentes des lecteurs ne correspondent pas à la réalité, notamment lorsqu'ils consacrent involontairement leur attention à du contenu dépourvu de toute réflexion humaine. C'est ce qu'on appelle le Claudefishing.
Freddie deBoer dit ceci :
Je m'engage avec l'art créé par des humains parce que je sais qu'il y a une personne derrière, ce qui est exactement ce que je cherche — d'autres personnes qui, à travers l'art, me montrent ce qu'elles cachent en elles-mêmes. Tenter de me tromper dans ce processus n'est qu'une escroquerie.
Nous nous intéressons à cette question sur Substack parce qu'elle touche au cœur de notre travail : créer un moteur économique pour la culture. Cela signifie aider des personnes réelles — celles qui pensent, ressentent, observent, débattent, expérimentent, réfléchissent, luttent, conseillent et se soucient — à gagner de l'argent grâce à leur travail qu'elles croient. Ce réseau repose sur la confiance entre individus, c'est ce qui en fait l'efficacité.
Lorsque le contenu généré sans intervention humaine envahit les parties d’Internet qui devraient appartenir aux êtres humains, il pollue l’espace public et rend difficile la découverte et l’audition des voix humaines. Lorsque les lecteurs doivent se demander si ce qu’ils lisent est authentique, cela mine la confiance envers l’identité de l’auteur et menace les moyens de subsistance des écrivains — y compris ceux qui utilisent réfléchiment des outils d’IA pour créer des œuvres en lesquelles ils croient. Les plateformes qui récompensent les contenus falsifiés déclencheront une course au plus bas niveau.
What are we doing?
C'est un domaine émergent, et nous ne prétendons pas avoir toutes les réponses. Mais une chose que nous savons certainement, c'est que nous ne voulons pas attendre que votre application Substack devienne LinkedIn pour commencer à apprendre et à progresser. C'est pourquoi nous lançons dès maintenant quelques nouveaux outils, dans l'espoir d'améliorer la transparence et de poser les bases de votre retour.
Nous collaborons avec l'outil de détection d'IA de pointe Pangram. Vous pourrez analyser les notes, réponses, commentaires et publications pour obtenir une estimation du pourcentage de texte rédigé à la main ou avec l'aide d'une IA. Cela s'appliquera aux textes de plus de 100 mots publiés à partir d'aujourd'hui, et les résultats d'analyse ne seront visibles que pour les personnes ayant demandé à les consulter.
Illustration : Interface de l'outil de détection AI de Substack en partenariat avec Pangram, affichant le pourcentage de texte rédigé par un humain et assisté par l'IA. Source : Substack
Veuillez noter que Pangram ne peut détecter que l'utilisation d'une IA pour créer un texte, et non le degré de travail humain investi lors de la création, ni si des outils IA ont été utilisés comme source. Il n'est pas parfait, mais des études indépendantes montrent qu'il peut détecter avec une grande précision les textes générés par IA. Nous croyons qu'il est bénéfique que les gens utilisent de tels outils pour les aider à prendre des décisions.
Nous avons également lancé des outils pour les créateurs, notamment la fonctionnalité permettant d'ajouter une déclaration « Comment j'ai créé cela », dans laquelle vous pouvez expliquer votre processus et fixer les attentes des lecteurs. Vous pouvez exécuter Pangram sur vos brouillons avant la publication, ainsi que signaler et supprimer tout résultat de scan que vous jugez erroné concernant vos œuvres.
Ces fonctionnalités sont désormais disponibles sur le web et sur iOS, et arriveront prochainement sur Android. Ce n’est qu’un début. En fonction des retours et de l’intérêt, nous envisageons les outils suivants :
Configurez vos préférences concernant les contenus IA pour votre communauté dans les règles de réponse.
Offrir aux créateurs davantage de moyens d'exprimer la valeur personnelle qu'ils apportent, que ce soit par l'écriture humaine ou l'utilisation réfléchie de l'IA
Permettez aux lecteurs de choisir les préférences concernant les contenus qui leur sont recommandés.
Avec l'accélération de ces problèmes par l'IA, continuez à améliorer notre système de lutte contre le spam, les robots et diverses arnaques.
Nous ne nous opposons pas à l'utilisation de l'IA pour aider au travail ; nous pensons que les gens devraient pouvoir choisir librement les outils qu'ils utilisent pour s'exprimer. Certains utilisateurs de la plateforme sont des maximalistes de l'écriture humaine, tandis que d'autres explorent ouvertement les frontières de l'utilisation d'outils d'IA, tout en prêtant une attention minutieuse aux détails pour créer les contenus qu'ils soutiennent. Nous utilisons depuis toujours l'IA sur Substack pour écrire des logiciels, effectuer des recherches et développer des fonctionnalités produits telles que la création de extraits ou la traduction.
Mais les gens devraient savoir ce qu'ils obtiennent. Par exemple, vous pourriez ne pas avoir d'objection à lire une analyse percutante de quelqu'un qui s'appuie fortement sur l'IA pour présenter ses résultats, mais préférez simplement passer du temps avec des réponses écrites à la main par un humain. Quoi qu'il en soit, vous devriez avoir le choix.
What do you want to see?
Nous entrons tous ensemble dans ce nouveau monde étrange, et nous ne pouvons pas imaginer de meilleure façon de déterminer les nouveaux outils et les nouvelles normes sociales dont nous avons besoin que par un débat public. Nous voulons entendre votre avis : comment Substack peut-il aider à soutenir la création humaine de valeur à l’ère de l’IA ? Quand l’utilisation de l’IA constitue-t-elle du Claudefishing ? Quand est-ce bon ?
Quelle que soit la puissance de l'IA, la perspective humaine reste un élément fondamental de la culture, et cela restera toujours vrai. En réalité, plus vous attendez que ces outils s'améliorent constamment, plus il est important de comprendre l'origine du contenu que vous lisez. Claude a beaucoup de qualités ! Mais quand je veux connaître l'avis de Claude, je demande directement à Claude.