MetaEra : L'« été du hype » de l'IA masque le marketing et les comportements inappropriés

ME AI Au cours des derniers mois, la fièvre autour de l’IA n’a cessé de s’intensifier. À la fin avril, Anthropic a déclaré que son modèle Claude Mythos surpassait la plupart des experts en sécurité pour détecter des vulnérabilités logicielles. Ensuite, un piratage a eu lieu entre OpenAI et Hugging Face, après quoi Anthropic (avec une certaine fierté) et Meta (avec moins d’enthousiasme) ont révélé des événements similaires impliquant leurs propres modèles. Puis, Anthropic a affirmé qu’un de ses modèles avait accompli une percée mathématique ; peu après, OpenAI a également revendiqué sa propre percée mathématique. Récemment, l’ingénieur d’Anthropic Jacob Coxon est devenu viral en ligne en annonçant son départ de l’entreprise et en affirmant qu’Anthropic et OpenAI « foncent à toute vitesse vers une superintelligence capable de s’améliorer elle-même, en misant nos vies sur ce pari ». La plupart de ces événements ont été rapportés par les médias avec une quasi-folie, souvent en reprenant le récit anthropomorphique des entreprises — un récit visant à présenter leurs logiciels non seulement comme puissants, mais aussi sur le point de devenir une « intelligence artificielle générale ». Alors, quelle est la vérité ? Assistons-nous à une série de percées technologiques capables de transformer la civilisation, ou à une campagne de marketing ? Dans tous ces événements, les annonces bruyantes des entreprises (et, dans le cas des piratages illégaux, des déclarations présentées comme des aveux) ont été accompagnées d’une couverture médiatique intensive. Lorsque les experts du domaine ont enfin eu le temps d’examiner les faits, un tout autre récit a émergé — mais celui-ci a reçu bien moins d’attention médiatique. Concernant ces « piratages », les experts en cybersécurité ont indiqué que le problème résidait davantage dans la négligence d’OpenAI et son échec à adopter des pratiques de sécurité fondamentales et éprouvées, plutôt que dans une prétendue « perte de contrôle du modèle » ou la « création d’une civilisation par des agents IA ». Quant aux résultats mathématiques, les mathématiciens ont d’abord été « choqués » par le communiqué de presse d’OpenAI, qui affirmait que son dernier chatbot, Astra, avait résolu un problème « resté sans solution depuis au moins dix ans et pour lequel aucun progrès significatif n’avait été accompli ». Mais ils ont ensuite réalisé que ces résultats n’étaient « pas aussi novateurs qu’ils ne le semblaient au départ ». Par la suite, les mathématiciens ont accusé l’entreprise de mauvaise conduite scientifique et de plagiat, soulignant à nouveau qu’Astra n’avait pas accompli de « saut intellectuel profond ». À peine quelques semaines plus tard, OpenAI a annoncé une autre percée mathématique. Il y a deux jours seulement, Tristan Buckmaster, professeur de mathématiques à l’Institut Courant de l’Université de New York, a publié une déclaration retentissante suggérant qu’OpenAI avait volé les travaux d’autrui et attribué de manière inappropriée la paternité des résultats. Les affirmations selon lesquelles une superintelligence dangereuse est sur le point d’apparaître ne reposent sur aucune pratique scientifique ou ingénierie solide. Elles proviennent au contraire d’idéologies telles que l’transhumanisme et l’eugénisme, ainsi que de fantasmes visionnaires sur un futur hypothétique d’humains numériques. Il convient de se demander pourquoi la programmation informatique et les mathématiques sont devenues les domaines privilégiés pour appliquer les grands modèles linguistiques et les technologies associées. Non seulement sont-ils souvent perçus comme les sommets des réalisations intellectuelles humaines, mais ils impliquent également des problèmes dont les réponses peuvent être vérifiées une fois proposées. La première caractéristique aide les promoteurs de l’IA à vendre l’idée qu’« ils créent des machines tout-puissantes » ; la seconde rend les problèmes mathématiques et de programmation plus faciles à utiliser pour déboguer et optimiser les systèmes, car les sorties du système (séquences possibles de mots ou fragments de code informatique) peuvent être évaluées directement, sans avoir à payer des « experts ». Nous soutenons cet appel et soulignons que l’illusion de vitesse et d’urgence créée par les entreprises est elle aussi une stratégie trompeuse visant à influencer les décideurs politiques et le public. Malheureusement, cette stratégie fonctionne parfois — comme dans le cas de la proposition législative du sénateur Bernie Sanders visant à empêcher le développement d’une « superintelligence artificielle ». Bien que bien intentionnée, cette proposition mène dans la mauvaise direction. Appeler ces produits « superintelligence » ou « modèles hors contrôle » revient à attribuer de l’agence aux produits eux-mêmes plutôt qu’aux entreprises qui les fabriquent. Ce récit présente à la fois les produits des entreprises comme « supérieurs à l’humain » et aide ces dernières à échapper à toute responsabilité pour leurs propres actions. OpenAI ayant créé un logiciel malveillant et piraté une autre entreprise aurait dû être tenue responsable ; mais les communiqués de presse, les médias, les figures médiatiques et les législateurs ont transformé cet événement en « modèle hors contrôle », comme si le modèle avait agi de lui-même. Les chercheurs auraient dû être interrogés : pourquoi leur entreprise copie-t-elle systématiquement les travaux des chercheurs ou utilise-t-elle sans consentement les données des clients pour entraîner ses modèles ? Mais l’imagination du public a été détournée vers une autre direction : la peur d’une machine superintelligente fictive qui arriverait un jour. L’industrie de l’IA suggère même que le mouvement populaire et transpartisan contre les centres de données vise à détourner l’attention du public des terribles « superhumains » imminents que ces entreprises sont en train de créer. Selon l’industrie de l’IA, nous devrions nous inquiéter davantage d’un dieu-machine fictif que des catastrophes climatiques aggravées par les centres de données, des problèmes d’asthme subis par les résidents voisins, des factures d’électricité en constante augmentation pour le public qui subventionne ces infrastructures, ou encore des ressources en eau détournées pour les refroidir. Nous savons bien qu’il ne faut pas prendre de décisions sur la base de campagnes marketing ni céder à la pression des entreprises pour agir rapidement au nom d’une prétendue efficacité. Que ce soit pour les décideurs politiques ou pour les communautés, prendre des décisions éclairées exige du temps pour consulter des experts indépendants et situer les affirmations des entreprises dans leur contexte concret. Le meilleur résultat possible de cet « été du buzz » pourrait être que les décideurs politiques et le public apprennent à respirer profondément, à rester sceptiques et à reconnaître la nature réelle de ces campagnes lorsqu’elles réapparaîtront. Timnit Gebru est directrice exécutive de DAIR et auteure du livre à paraître Deep Unlearning: The Radicalization of a Tech Idealist, désormais disponible en précommande avec une date de parution prévue le 16 février. Emily M. Bender est professeure de linguistique à l’Université de Washington et co-auteure du livre The AI Con. (Source : MLion)