Le cofondateur d'Ethereum, Vitalik Buterin, affirme que l'IA est extrêmement compétente mais pas très sage. Selon lui, les chatbots repèrent des références à presque tout, mais ne jugent que la surface de ce qu'un texte argumente.
Ses remarques ont déclenché un débat sur X sur la question de savoir si les chatbots rivalisent désormais avec les meilleurs lecteurs humains. Ce fossé compte pour les traders en crypto qui alimentent des whitepapers et des propositions de gouvernance dans des outils d'IA et agissent sur les résumés.
Une classe à Harvard sans chatbots a déclenché le débat
Le fil a commencé par un article du Wall Street Journal sur Humanities 10, un cours exigeant de Harvard destiné aux étudiants de première année. Selon des extraits partagés sur X, les candidatures ont augmenté de 40 % cet automne, avec 180 étudiants concourant pour 90 places.
Les étudiants doivent porter un livre volumineux chaque semaine, et le cours interdit les appareils électroniques. Plusieurs candidats ont déclaré qu'ils cherchaient un remède aux raccourcis de l'IA.
En réponse, un utilisateur a affirmé que les modèles d'aujourd'hui surpassent tout humain en tant que partenaires de discussion sur les classiques, car ils ont lu tout ce qui existe. Toutefois, une écrivaine a contesté, qualifiant les commentaires des chatbots sur ses propres essais de « déchets » pour le moment.
Ce que Vitalik Buterin considère manquant dans le jugement de l'IA
Buterin a ensuite rejoint la discussion et établi une distinction entre connaissance et sagesse.
Selon lui, les connaissances de l'IA sont plus faciles à repérer que sa sagesse limitée, car la sagesse, contrairement à l'intelligence, peut être par définition difficile à vérifier.
La faiblesse augmente, a-t-il ajouté, lorsqu'un modèle lit un texte pour la première fois. Les œuvres célèbres, en revanche, arrivent avec une grande quantité d'analyses humaines dans les données d'entraînement.
Sa prudence s'inscrit dans un schéma. Récemment, Buterin a averti que l'IA pourrait affaiblir des éléments clés de la sécurité cryptographique dans les deux ans à venir. Il a également développé un mode paranoïaque pour les discussions IA.
Tout le monde ne partage pas son scepticisme. Certains investisseurs affirment que l'IA bat déjà les meilleurs esprits humains en mathématiques.
Dans le même temps, les équipes de crypto remettent continuellement des audits, des recherches et des résumés de gouvernance à des agents IA. Une lecture de surface pourrait passer à côté d’une faille subtile dans un contrat intelligent ou du calendrier d’offre d’un jeton.
Le point de Buterin suggère que les faits sont faciles à vérifier auprès d'une source, tandis que le jugement sur un texte entièrement nouveau ne l'est pas. Son soutien récent à un modèle d'IA limitant le piratage montre la même volonté de maintenir des vérifications humaines dans le processus.
Le post Vitalik Buterin dit que l'IA est compétente mais pas très sage est apparu pour la première fois sur BeInCrypto.


