Le PDG d'Anthropic propose un cadre de politique sur l'IA face à la croissance technologique rapide

Récemment, le PDG d'Anthropic, l'un des géants de l'IA, Dario Amodei, a publié un article de dix mille mots qui a fait le tour des réseaux : « La politique à l'ère de l'indice de l'intelligence artificielle ». L'article détaille attentivement ses observations autour de cinq domaines politiques et propose des recommandations systématiques allant de la régulation à la géopolitique.

(Lien original :https://darioamodei.com/post/policy-on-the-ai-exponential, version complète en chinois ci-dessous.)

Il faut l'admettre : dans le milieu de la Silicon Valley, où tout le monde ne parle que de « changer le monde » et ne fait que promettre des rêves impossibles, Dario constitue une rare bouffée d'air frais.

Il a été extrêmement franc, voire un peu « prêt à sacrifier les siens », en dévoilant le masque de façade que la communauté technologique avait caché.

Les initiés ont tendance à attribuer les préoccupations du public concernant l'IA à une « mauvaise communication », mais Dario réfute sans détour : les gens s'inquiètent parce que les risques sont réels, ce n'est tout simplement pas une question de communication.

Il a également reconnu directement la vérité que les géants de la technologie s'efforcent d'éviter : l'IA est très probablement susceptible de provoquer une vague de chômage grave et durable, bloquant l'économie dans un état extrême de « croissance supérieure et d'inégalité supérieure ».

Mais si nous poursuivons la logique du remède proposé par ce « lanceur d'alerte » du front de l'industrie, nous découvrons un paradoxe structurel profondément réfléchissant :

Cet cadre responsable, en appelant à imposer des contraintes à l'industrie, pousse objectivement à une transition de pouvoir sans précédent. Les élites de la Silicon Valley réécrivent les règles de la société humaine.

Face à l'évolution rapide de l'IA, Dario s'inquiète et recommande au gouvernement de réguler l'IA aussi strictement que les avions et les médicaments.

Par exemple, mettre en place un mécanisme similaire à l’Administration fédérale de l’aviation (FAA), exigeant que les modèles avancés atteignant un certain niveau de puissance de calcul passent des tests de sécurité obligatoires effectués par un tiers, sinon ils ne peuvent pas être publiés.

The starting point is undoubtedly for human safety.

Mais selon les lois objectives de l'évolution commerciale, l'industrie aérienne est un oligopole hautement concentré précisément parce que les coûts de conformité sont extravagants.

Une fois que l'industrie de l'IA sera véritablement « FAAisée », les frais élevés de surveillance, les tests réguliers de red teaming et les tests de pénétration se transformeront directement en un mur infranchissable de soupirs.

La réglementation est parfois un avantage concurrentiel pour les leaders. Les startups et les communautés open source n'ont tout simplement pas les moyens de la supporter.

Le résultat final est : les géants, au nom d’un « grand amour » pour la sécurité de l’humanité entière, ont objectivement utilisé le pouvoir public pour effectuer un nettoyage légal et inscrire leur statut d’oligopole dans la loi.

Ce raisonnement subtil existe également dans les domaines de la pharmacie et de la géopolitique.

Dario appelle les institutions traditionnelles comme la FDA à assouplir l'approbation de la recherche pharmaceutique par IA, en acceptant des simulations par IA pour remplacer les essais cliniques prolongés. L'intention est louable, mais cela élimine sans aucun doute les obstacles à une attaque à basse dimension des géants de l'IA détenant la puissance de calcul la plus élevée sur le secteur pharmaceutique de plusieurs billions de dollars.

Il a également imaginé une « alliance des démocraties en matière d'IA » partageant des puces à l'intérieur tout en les protégeant rigoureusement à l'extérieur.

Si cette alliance est établie, qui fournit la technologie ? Qui est exclu ? Qui est considéré comme un adversaire ? Qui tire profit de tout ce processus ?

Pour maintenir un avantage technologique, les géants de la technologie ne sont pas seulement des fournisseurs de technologies, mais deviennent logiquement les arbitres des nouvelles règles du jeu, voire se transforment en un nouveau « complexe militaro-industriel numérique » chargé de gérer d'énormes budgets de défense.

Si nous examinons les indices laissés dans l'histoire, tout cela était en réalité prédit.

Historiquement, lorsqu'une entreprise devient suffisamment grande, elle a tendance à « capturer l'État ou à adopter des caractéristiques quasi-étatiques ». Dario mentionne lui-même dans le texte une analogie très précise : la Compagnie britannique des Indes orientales.

La Compagnie des Indes orientales n'était au départ qu'un groupe de marchands de épices, mais pour protéger leurs routes commerciales et gérer leurs vastes intérêts transnationaux, ils ont progressivement recruté des armées, établi des tribunaux et émis de la monnaie, devenant finalement un « quasi-État » régnant sur le sous-continent.

Les géants de la Silicon Valley d'aujourd'hui suivent exactement le même chemin.

Autrefois, le médium était les navires et les canons, aujourd'hui c'est la puissance de calcul.

Dario a esquissé un avenir époustouflant : si l'IA continue son évolution exponentielle, elle deviendra « une nation de génies dans les centres de données » : l'IA serait un regroupement de génies dans tous les domaines, et posséder une IA puissante reviendrait à avoir autant de génies à son service qu'une nation entière. Ainsi, lorsqu'une armée dotée d'une IA puissante affronte une armée sans IA, le décalage est comparable à « une marine des États-Unis pendant la Seconde Guerre mondiale face à des chevaliers du Moyen Âge ».

Lorsque les géants de la technologie détiennent des technologies supérieures capables de provoquer un effondrement financier, de créer des armes biologiques ou même de déterminer le paysage géopolitique mondial, les institutions nationales traditionnelles commencent à peine à les contrôler efficacement.

Les géants ont déjà tenté de définir leurs propres normes de sécurité, de tester leurs propres modèles, et même de concevoir des alliances internationales.

Ce n'est pas parce qu'ils sont un groupe d'ambitieux malveillants, mais parce que, après le développement technologique à cette échelle, le vide de pouvoir et la complexité de la nature humaine les ont naturellement poussés sur une voie similaire.

À une époque où la puissance de calcul détermine tout, la force des individus semble être infiniment réduite.

Dario dévoile sans pitié la vérité : l'IA ne remplace pas seulement le travail physique, mais les capacités cognitives mêmes dont l'humanité est fière.

Lorsque notre logique et notre planification, forgées avec tant d'efforts dans le monde professionnel, semblent enfantines face à cette « nation qui rassemble tous les génies » qu'est l'IA, comment devons-nous nous comporter ?

Les grands acteurs proposent comme remède des soutiens macroéconomiques tels que le revenu de base universel (UBI) : même sans travailler, l'État vous verse de l'argent pour vous entretenir.

Mais le pain est sauve, qui comblera le grand trou dans le cœur ?

Peut-être comme la métaphore de Dario dans le texte : même si les machines ont longtemps dépassé les humains aux échecs et au go, les gens continuent de consacrer leur vie à l'échiquier et restent admirés.

Parce que la machine calcule une « solution optimale » froide, tandis que l'humain cherche l'« expérience elle-même » pleine de vie.

Les caractéristiques qui ne peuvent pas être standardisées deviendront la ressource la plus rare de l'avenir.

Dans une sous-trame de Le Seigneur des Anneaux, deux hobbits tentent de réveiller Treebeard — un arbre conscient, sage mais extrêmement lent — afin de défendre sa forêt contre une armée en train de l'abattre. Le problème réside dans le fait que la vitesse d'action de Treebeard est radicalement différente de celle des hobbits. Il lui faut une journée entière simplement pour saluer un autre arbre, rendant presque impossible une action rapide de sa part et de ses compagnons.

L'intersection entre l'intelligence artificielle (IA) et notre système politique ressemble un peu aux hobbits et à Treebeard. L'IA évolue à un rythme éclair (argot/idiome, signifiant une vitesse extrêmement rapide) — en seulement quatre ans, les modèles d'IA sont passés de presque incapables d'écrire une ligne de code cohérente à rédiger la majeure partie du code dans les principales entreprises d'IA. Des progrès similaires ont été réalisés dans les domaines de la biologie, de la physique, des mathématiques, de la finance, du droit, de la traduction et de nombreux autres domaines. Les lois d'échelle de l'IA, qui prédisent que les capacités cognitives générales augmenteront de manière exponentielle avec l'augmentation des ressources informatiques, sont désormais soutenues par plus de dix ans de preuves empiriques. Si ces lois d'échelle se poursuivent encore un ou deux ans, nous pourrions très probablement obtenir ce que j'appelle une « IA puissante (Powerful AI) », ou un « royaume de génies dans un centre de données ».

En revanche, les politiques — en particulier la législation — avancent très lentement. Cela est généralement justifié : les gouvernements détiennent un pouvoir extrêmement important, et il est souvent préférable de ne pas l'exercer à la légère. Mais ce décalage dans les échelles de temps reste très douloureux : pendant les années que pourrait prendre le Congrès pour agir, l'IA pourrait passer d'un jouet intéressant à un véritable pays de génies.

Au cours des dernières années, depuis que l’IA est devenue une technologie commerciale majeure, nous, ceux qui souhaitons la gérer de manière responsable, faisons face à un dilemme. Nous voyons clairement la trajectoire de cette croissance exponentielle : nous soupçonnons fortement que, dans quelques années, l’IA deviendra l’une de ces rares technologies qui redéfiniront fondamentalement tout le paysage politique, tout comme les armes nucléaires ont transformé la géopolitique et la révolution industrielle a radicalement remodelé chaque question économique et sociale. Toutefois, pour ceux qui ne se concentrent que sur ce que l’IA peut faire actuellement, elle semble être une technologie assez ordinaire — peut-être comparable à la dernière application grand public ou à une cryptomonnaie. Il est difficile de convaincre la plupart des décideurs politiques et des entreprises qu’il existe une approche significative autre que le laisser-faire. À juste titre, il est vrai que les impacts radicaux de l’IA ne se sont pas encore manifestés, et nous ne savons pas exactement sous quelle forme ils pourraient se manifester, ce qui rend difficile la conception de politiques appropriées, même en présence d’une volonté d’agir.

En raison des contraintes imposées par cette situation, de nombreux défenseurs de la sécurité (y compris Anthropic) se sont jusqu'à présent concentrés sur la promotion d'actions politiques permettant de conserver des options, de se préparer à des réactions rapides à venir (tee up, argot/idiome, signifie préparer, poser les bases), ou de permettre au monde d'avoir une meilleure visibilité sur les événements à venir (coming down the pike, argot/idiome, signifie des choses qui vont bientôt se produire ou apparaître) — telles que des lois sur la transparence, des contrôles à l'exportation de puces et la collecte de données sur l'impact de l'IA sur l'emploi. Ce n'est pas suffisant, mais cela donne l'impression d'être tout ce qui peut être fait pour le moment.

Cependant, au cours des derniers mois, les preuves de l'incroyable puissance de l'IA et de ses risques sont devenues indéniables. Peut-être l'exemple le plus emblématique est-il Claude Mythos Preview, ainsi que la découverte que les modèles de pointe présentent un risque très réel pour la cybersécurité, créant la possibilité de perturber le secteur financier, les infrastructures critiques et la sécurité nationale. Mythos Preview a complètement bouleversé le paysage mondial de la cybersécurité. Mais son importance plus large réside dans le fait qu'il prouve sans équivoque que les modèles d'IA sont désormais des outils d'importance mondiale et stratégique. Les risques cybernétiques apportés par des modèles de niveau Mythos ne seront pas les derniers que nous devrons affronter. Je crois qu'un risque biologique pourrait bientôt suivre, ainsi qu'un risque sérieux d'autonomie de l'IA (note 1).

Nous devons désormais, à l’échelle mondiale, activer des institutions politiques lentes et instables pour faire face aux risques et opportunités qui croîtront à un rythme étonnant à partir de maintenant. De nombreux décideurs montrent une ouverture croissante à agir, ce qui est encourageant, car nous voyons nos pairs venir soutenir la même position que nous défendons depuis plusieurs années (idiome, signifie changer d’avis pour adhérer). C’est une bonne chose, mais je crains que ces premières actions soient déjà d’au moins un an en retard par rapport à l’évolution rapide de l’IA. Cet article vise à réduire ce décalage : clarifier où nous en sommes actuellement avec la croissance exponentielle et les actions collectives nécessaires pour répondre à l’instant critique (idiome, signifie faire face au défi actuel).

Je me concentrerai sur cinq domaines politiques permanents qui nécessitent une réinvention dans le monde de l'IA : la réglementation et la sécurité publique, la politique macroéconomique et fiscale, l'innovation scientifique, l'équilibre des pouvoirs entre l'État et la société, ainsi que la géopolitique. Je m'appuierai principalement sur le point de vue des politiques américaines, car Anthropic est une entreprise américaine, mais la plupart de mes recommandations s'appliquent également au reste du monde.

En même temps que cet article, Anthropic publiera une proposition de loi sur les tests de modèles avancés, ainsi qu'un cadre politique sur la perte d'emplois, pour lesquels nous prévoyons de fournir un soutien financier important. Nous prévoyons faire davantage à l'avenir, mais nous considérons ces mesures comme les premières étapes démontrant notre sérieux.

1. Réglementation et sécurité publique

Chaque nouvelle technologie ou produit présente des utilisations bénéfiques et nuisibles, créant ainsi un dilemme entre innovation et sécurité. Réguler un produit réduit la probabilité qu'il cause des dommages et joue un rôle essentiel dans l'amélioration de la vie des personnes à travers le monde, mais il peut également réduire directement ses avantages et freiner indirectement l'innovation. Il existe également un point de vue hayékien selon lequel les régulateurs manquent généralement des informations nécessaires pour prendre des décisions éclairées sur les compromis économiques complexes, rendant la régulation souvent inefficace et lourde. Un concept connexe est le dilemme de Collingridge, qui affirme que les impacts d'une technologie sont généralement difficiles à prédire jusqu'à ce qu'il soit trop tard pour les gérer facilement.

Durant les années 2023-2024, ces dynamiques ont particulièrement retenu l'attention dans le domaine de l'IA. Pour Anthropic, il est clair que l'IA pourrait, à l'avenir, avoir la capacité de fabriquer des armes biologiques menaçant des millions de personnes, ou que son comportement autonome malveillant pourrait, dans des cas extrêmes, mettre en péril l'humanité elle-même. Ce qui reste moins clair, c'est sous quelle forme exacte ces risques se manifesteront, comment les tester et les atténuer de la meilleure manière, et comment ils évolueront en pratique. Par conséquent, il existe un risque élevé que la législation préparée à l'avance finisse par s'avérer inefficace — en créant des exigences de conformité sans signification ou à faible valeur, tout en manquant les sources les plus critiques des risques réels (note 2).

Finalement, nous avons conclu que la transparence était la bonne approche à l’époque. Les développeurs de modèles d’IA doivent divulguer leurs procédures de sécurité ainsi que les tests effectués sur leurs modèles et signaler tout incident de sécurité majeur, afin que le public et la communauté scientifique puissent mieux comprendre ces risques dès leur apparition. Lorsque et si les risques deviennent plus clairs et leur forme plus précise, les preuves obtenues grâce à la transparence peuvent être utilisées pour concevoir des législations intelligentes ciblant précisément les risques les plus préoccupants. Ainsi, en 2025, Anthropic a soutenu des lois sur la transparence, aidant à adopter le SB 53 en Californie, le RAISE à New York et le SB 315 en Illinois (adopté au début de 2026), tout en plaidant pour l’établissement de normes de transparence au niveau fédéral.

Cependant, les risques actuels sont désormais évidents. Il est temps de dépasser la transparence et d'instaurer une régulation plus sérieuse et contraignante pour l'IA. Je pense qu'au moins à ce stade de croissance exponentielle, la meilleure analogie est celle de l'automobile, de l'avion ou des médicaments — ces technologies puissantes, indispensables à l'économie moderne, mais capables, si elles sont mal conçues ou mal utilisées, de causer la mort de nombreuses personnes. Par conséquent, je pense que nous devrions nous inspirer d'organismes comme la Federal Aviation Administration (FAA) pour élaborer un cadre de régulation de l'IA. Les modèles d'IA de pointe devraient être traités comme des avions, et être tenus de passer des tests techniques et des audits ; s'ils ne répondent pas à des normes de sécurité élevées, leur publication devrait être bloquée ou retirée, en tant que menace pour la sécurité publique. Je suis reconnaissant de voir que l'ordre exécutif du gouvernement Trump progresse dans la direction d'un rôle plus important du gouvernement dans le domaine de l'IA, bien que la proposition d'Anthropic suggère d'aller plus loin. Notre proposition comprend les éléments suivants :

• Les modèles dépassant un seuil de puissance de calcul donné doivent être soumis à des tests obligatoires effectués par un tiers qualifié pour évaluer leur niveau de risque dans quatre domaines spécifiques : la cybersécurité, les armes biologiques, la perte de contrôle des systèmes d'IA, et le développement automatisé pouvant accélérer ces autres risques.
• Si une évaluation tierce juge que le modèle présente un risque inacceptable, le gouvernement devrait avoir le pouvoir d'empêcher ou de dissuader le déploiement de ce modèle. Ce pouvoir doit être limité aux quatre risques spécifiques mentionnés ci-dessus et doit inclure des protections contre les partis pris politiques ou les décisions arbitraires.
• L'évaluation par un tiers peut être effectuée par des organismes gouvernementaux (similaires à la FAA) ou par un ensemble d'organisations privées autorisées et inspectées par le gouvernement pour évaluer les modèles selon certains critères (une approche de « marché de la régulation »).
• Les entreprises d'IA qui développent des modèles d'IA avancés doivent avoir des normes de sécurité robustes pour protéger leurs poids de modèle, effectuer des tests de red teaming et des tests d'intrusion réguliers, et collaborer avec les gouvernements pour se défendre contre les principaux acteurs menaçants.
• Les incidents de sécurité dans ces quatre domaines clés doivent être signalés en temps voulu.

Il se peut qu’un jour, peut-être bientôt, lorsque les systèmes d’IA les plus puissants ne ressembleront plus à des avions ou des voitures, mais plutôt à des matériaux nucléaires weaponisables — une menace pour l’humanité, et non seulement « simplement » pour la sécurité publique — nous devrons aller au-delà de cela. Si cela se produit, nous pourrions avoir besoin de mesures de régulation plus radicales que celles que j’ai énumérées ci-dessus (note 3). Toutefois, tout comme il est difficile aujourd’hui en 2024 de cibler et d’appliquer les mesures que je suggère, je pense que nous ne devrions pas nous précipiter (expression idiomatique signifiant agir trop tôt ou trop vite). Nous devons concevoir des politiques pour les dangers qui émergent aujourd’hui, tout en posant les fondations pour renforcer plus rapidement notre réponse lorsque de nouveaux dangers apparaîtront.

2. Politique macroéconomique et fiscale

Depuis longtemps, les gouvernements de divers pays font face au défi de stimuler la croissance économique tout en fournissant des services publics essentiels et en veillant à ce que les groupes les plus vulnérables soient pris en charge. Un postulat important (et globalement correct) de ces débats est que la croissance économique est fragile et difficile à réaliser — bien que la réduction des inégalités puisse apporter des avantages significatifs, elle doit être pesée contre les freins économiques liés à une augmentation des impôts ou des déficits.

Je soupçonne que les IA puissantes pourraient bouleverser cette hypothèse. Si l’IA acquiert une capacité bien supérieure à celle des humains pour accomplir la plupart des tâches cognitives, il est logique qu’elle puisse entraîner une croissance économique très rapide et vigoureuse en accélérant la science, la technologie et l’efficacité opérationnelle. La capacité itérative de l’IA à construire de meilleures IA pourrait encore renforcer cette croissance. Mais pour les mêmes raisons, l’IA pourrait également constituer, par rapport aux technologies précédentes, un substitut économique plus universel aux capacités cognitives humaines, tout en transformant plus rapidement l’économie que les technologies antérieures. Il est donc raisonnable de penser que, par rapport aux technologies précédentes, l’IA pourrait provoquer une perturbation bien plus importante — et potentiellement plus durable — sur le marché du travail. Le risque que nous courons est de finir dans un monde où le cadran des compromis économiques est bloqué sur le paramètre de la croissance et de l’inégalité extrêmes, et où il pourrait être difficile d’en sortir. Dans un tel monde, le défi essentiel ne sera plus d’inciter à la croissance, mais de trouver un moyen pour que chacun puisse partager les bénéfices.

Parmi les sujets discutés dans cet article, la macroéconomie et le remplacement durable de la main-d’œuvre sont probablement les sujets qui ont retenu le plus d’attention du public et suscité le plus de malentendus, donc je souhaite être très clair sur deux points.

Premièrement, la perte persistante d'emplois est indésirable et dangereuse ; nous devons faire tout notre possible pour la minimiser ou l'éviter, et non la favoriser. J'ai averti dans des entretiens et des articles sur la perte d'emplois, car je souhaite donner aux décideurs politiques et au secteur privé la meilleure chance possible de s'adapter et de réagir, et non parce que je tente d'être un « prophète de la fin des temps ». En tant qu'entreprise, Anthropic travaille toujours au maximum avec ses clients pour trouver de nouvelles utilisations créatives et de nouvelles sources de revenus leur permettant de faire davantage avec leur main-d'œuvre existante, plutôt que de se concentrer uniquement sur la réduction des coûts (ce qui signifie souvent des licenciements). À mesure que ces systèmes progressent, nous cherchons constamment à imaginer de nouveaux paradigmes d'interaction permettant aux humains participant à la collaboration de jouer un rôle aussi actif que possible dans les systèmes d'IA. Plus largement, il est précieux que le monde entier expérimente l'IA par un maximum de nouvelles façons, car c'est ainsi que la société découvrira de nouvelles configurations potentielles d'emplois. Je crois effectivement que l'IA apportera de nombreuses nouvelles opportunités économiques. J'ai prédit que l'IA permettrait à une seule personne de créer une entreprise d'une valeur de plusieurs milliards de dollars, et nous avons déjà vu des équipes composées de quelques personnes seulement construire des entreprises générant des revenus de plusieurs centaines de millions de dollars. Mais en même temps, nous devons reconnaître que, malgré tous nos efforts, l'IA risque très probablement de provoquer un chômage persistant et sérieux — ce qui pourrait être une propriété intrinsèque de cette technologie ainsi que le résultat de sa capacité à reproduire largement les façons humaines de penser (note 4).

Ensuite, toute réponse aux pertes d'emplois causées par l'IA doit à la fois répondre au besoin de sécurité économique pour chacun et au besoin de trouver du sens, un objectif et de l'agence. Ce dernier est finalement plus important, car il repose sur des questions profondes concernant la manière dont la société devrait être organisée, ce que les gens devraient poursuivre et ce qui constitue une vie bonne. En réalité, je suis très optimiste quant à la possibilité que, même dans un monde où l'IA excelle à tous égards par rapport à tous les humains, les êtres humains puissent encore mener une vie dotée d'un profond objectif et s'efforcer de créer des choses admirables et belles (note 5). Mais il s'agit d'un problème qui doit être résolu collectivement par la société, et non pas directement par les politiques publiques. Le domaine où les politiques peuvent jouer un rôle maximal consiste à ralentir le rythme du chômage et à offrir une sécurité économique aux personnes susceptibles d'être affectées, afin de nous donner le temps nécessaire pour accomplir ce travail.

Dans cet esprit, certaines interventions politiques clés qui pourraient être utiles incluent :

• Mesurer et suivre. Il est facile de rejeter la simple collecte et analyse de données comme insuffisante pour faire face à l'ampleur du problème, mais si nous ne pouvons pas mesurer avec précision ce qui se passe réellement, il est peu probable que nous puissions élaborer de bonnes politiques. Anthropic exploite un indice économique sur la manière dont les gens utilisent Claude depuis près d'un an et demi, mais les gouvernements peuvent accéder à des types de données que nous ne pouvons pas obtenir et peuvent considérablement étendre leurs statistiques économiques afin de suivre plus attentivement les licenciements causés par l'IA.
• Mesures d'incitation à la création d'emplois. Des politiques d'incitation à l'emploi larges peuvent aider à ralentir ou à réduire la perte d'emplois, notamment : des politiques d'assurance-salaire qui compensent les travailleurs contraints d'accepter des emplois mal rémunérés (note 6), des incitations fiscales pour encourager les employeurs à éviter les licenciements, des subventions à la formation professionnelle, ou des infrastructures visant à faciliter le couplage entre employeurs et travailleurs afin d'accélérer l'adaptation du marché du travail. Bien que le choix des meilleures interventions dépende du type de substitution de la main-d'œuvre apportée par l'IA, nous devrions accepter avec bienveillance les coûts et les inefficacités de marché que ces politiques pourraient engendrer, particulièrement parce qu'ils pourraient être compensés par la croissance de la productivité entraînée par l'IA.
• Soutien macroéconomique à long terme. Si le remplacement de la main-d’œuvre par l’IA atteint finalement une échelle massive et réduit de manière permanente la demande de travail, il pourrait être nécessaire de dépasser les simples programmes d’incitation pour offrir un soutien revenu à long terme à une grande partie de la main-d’œuvre. Des mécanismes tels que le revenu universel de base pourraient être financés par des impôts sur les entreprises concernées ou une augmentation des impôts sur les gains en capital. Les comptes capitaux universels offrent un autre outil. Dans une large mesure, une croissance économique rapide devrait créer une assiette fiscale pour une prospérité partagée.

Parmi les préoccupations économiques liées à l'IA, un point commun que je n'ai pas mentionné est celui des centres de données, en particulier leur potentiel d'augmenter les prix de l'énergie. Mon avis est que les entreprises d'IA devraient assumer elles-mêmes la hausse des tarifs — et Anthropic a déjà promis de le faire — mais je pense que l'hostilité du public envers les centres de données est en grande partie un symbole ou un moyen de décharge des anxiétés économiques plus larges liées à l'IA. Il est essentiel d'engager un dialogue social direct sur ces problèmes économiques plus vastes et de proposer des solutions convaincantes pour les aborder concrètement ; sinon, ils risquent de se manifester indirectement, comme c'est le cas avec la question des centres de données.

3. Accélérer les impacts positifs de l'IA

Tout comme nous devons nous efforcer d'équilibrer l'innovation et la sécurité de l'IA elle-même, nous devons également chercher à équilibrer ces mêmes considérations pour les technologies qui pourraient être accélérées par l'IA, telles que la biomédecine, l'énergie ou les sciences des matériaux. Toutefois, tandis que l'IA elle-même pourrait engendrer des défis nouveaux qui apparaîtront très rapidement et auxquels nous n'avons aucune expérience pour faire face, les autres domaines accélérés par l'IA pourraient rencontrer un problème tout différent : des systèmes de réglementation conçus pour des rythmes d'innovation plus lents ne sont pas préparés à faire face à l'avalanche de nouveaux produits et avancées que l'IA apportera. L'IA pourrait également rendre ces technologies en aval plus sûres et plus prévisibles, remettant en question les hypothèses prudentes des organismes de réglementation tels que la FDA.

Ainsi, pour les applications en aval de l'IA — contrairement à l'IA elle-même — je m'inquiète davantage du fait que les régulateurs ralentiront les progrès (car ils ne parviennent pas à suivre le rythme accéléré des changements) que du fait qu'elle ne résolve pas les risques importants. Nous souhaitons le moins possible que les avantages de l'IA soient ralentis tandis que ses risques s'aggravent ; il est donc essentiel d'agir rapidement sur cette question.

Ce problème et ses solutions se manifesteront de différentes manières dans les domaines de la science, du commerce et de la technologie ; je me concentrerai donc sur un domaine illustratif : l'innovation biomédicale. Cela s'explique à la fois par le fait qu'il s'agit probablement de la source des plus grands bénéfices humanitaires de l'IA, et parce que c'est un domaine particulièrement complexe sur le plan réglementaire. Nous ne savons pas exactement comment l'IA accélérera l'innovation biomédicale, mais il semble qu'elle le fera probablement :

• Augmenter considérablement le taux d'entrée des nouveaux médicaments candidats dans le canal réglementaire ;
• Augmenter l'effet du nouveau médicament et améliorer son profil de sécurité, grâce à une meilleure optimisation, et peut-être aussi une meilleure compréhension de ses propriétés biologiques potentielles ;
• Développer un médicament candidat pour traiter des maladies jamais auparavant traitées avec succès ;
• Créez rapidement de nouvelles formes de thérapies, comme les anticorps, les peptides et les thérapies cellulaires qui sont devenues des catégories de traitements nouvelles au cours des dernières décennies.

Certaines de ces avancées accéléreront naturellement les échéances réglementaires sans nécessiter de changements structurels. Des médicaments à effet plus fort peuvent conduire à des essais cliniques plus petits et moins coûteux, et déclencher des mécanismes d'approbation accélérée. Mais le système réglementaire actuel a été conçu pour imposer un niveau élevé d'examen et de multiples phases de tests, en supposant que les médicaments candidats sont généralement inefficaces et, même lorsqu'ils sont efficaces, présentent souvent de graves problèmes de sécurité. Que ce soit à la FDA ou à l'Agence européenne des médicaments (EMA), le temps typique pour qu'un médicament candidat traverse le canal réglementaire est de 7 à 8 ans, en partie en raison de ces hypothèses pessimistes. Sans réforme, l'IA simplement encombrera ou surchargera ce système.

Il est évident que nous ne souhaitons pas modifier les choses d'une manière qui conduirait à une vague de médicaments de type snake-oil (argot pour désigner des remèdes frauduleux) ou à des incidents de sécurité généralisés. Mais certaines réformes relativement simples pourraient rendre la FDA, l'EMA et les agences similaires plus adaptées à une accélération scientifique rapide pilotée par l'IA (si une telle situation venait à se produire).

De nombreuses étapes des processus cliniques qui nécessitaient auparavant des expériences coûteuses et lentes peuvent désormais être réalisées rapidement grâce à la simulation ou à l’analyse par IA. Les organismes de régulation devraient dès maintenant envisager d’établir des normes sur les conditions requises pour accepter ces méthodes. Cela signifie que, une fois qu’elles s’avèrent efficaces, elles pourront être adoptées rapidement, sans subir une période inutile d’exigences prolongées de tests supplémentaires. Les domaines concernés pourraient inclure :

• Modélisation de la pharmacodynamique et de la pharmacocinétique (PD/PK) basée sur l'IA ;
• Toxicology predictions to avoid the need for multi-species animal toxicology studies;
• Choix de dose plus précis pour réduire la nécessité d'une large gamme de doses dans les essais ;
• Validation de biomarqueurs par analyse de grands ensembles de données ;
• Groupe témoin synthétique dans les essais cliniques pour réduire la nécessité de recruter davantage de participants ;
• Développer des points de terminaison de remplacement (ce qui est particulièrement important dans le vieillissement et les maladies neurodégénératives).

En plus de ces exemples spécifiques, les institutions devraient également envisager des mécanismes d'approbation accélérée plus audacieux et flexibles. Si ma prédiction concernant l'IA est correcte, de nombreuses interventions soudaines (expression idiomatique signifiant de manière inattendue ou imprévue) et extrêmement efficaces apparaîtront bientôt, et le système de régulation devrait être prêt à les prendre au sérieux plutôt que d'adopter une attitude excessivement sceptique.

L'accélération de la biomédecine devrait considérablement augmenter les avantages de l'IA, mais il est important de noter qu'elle pourrait également contribuer à réduire les risques liés à l'IA. Réformer l'approbation en biomédecine pourrait aider à la défense biologique, et les progrès en biomédecine pilotés par l'IA pourraient également améliorer la santé mentale, ce qui pourrait avoir un effet stabilisateur sur la société.

4. Libertés nationales et civiles

Chaque système gouvernemental doit faire face à la question du pouvoir de l'État et de ses limites. L'État a un intérêt légitime, souvent vital, à protéger sa population contre les menaces internes et externes. Mais lui accorder trop de pouvoir est la voie vers la tyrannie. Les démocraties modernes ont réussi dans une large mesure à gérer cet équilibre, mais même dans les meilleurs moments, cet équilibre reste précaire. Maintenir cet équilibre exige de nombreux mécanismes juridiques et constitutionnels établis au fil des siècles — par exemple, aux États-Unis, les premières, quatrièmes et cinquièmes amendements, la loi Posse Comitatus, la FISA, etc.

L'IA menace de briser cet équilibre, tout en augmentant considérablement les enjeux. Mais si nous réagissons rapidement et faisons face aux défis, nous pouvons utiliser l'IA pour créer un monde doté de garanties de liberté plus puissantes et plus durables, et mieux protégé contre les menaces.

Un puissant IA entre de mauvaises mains pourrait devenir l'outil ultime de l'autoritarisme, et nos protections juridiques et constitutionnelles actuelles ne sont pas entièrement équipées pour lutter contre cette menace. Fondamentalement, les retours énormes que l'intelligence apporte au pouvoir mondial, combinés à la rapidité des progrès dans le développement de l'IA, créent une tempête parfaite (perfect storm, expression idiomatique signifiant une situation extrêmement grave causée par la conjonction de plusieurs événements négatifs) pour que divers acteurs malveillants s'emparent accidentellement du pouvoir.

Ce risque peut prendre diverses formes techniques ou opérationnelles concrètes, mais leur point commun est que l’IA pourrait soudainement conférer un pouvoir énorme tout en contournant (routing around, argot / sens figuré, signifiant contourner des obstacles ou des mécanismes de régulation) les mécanismes existants de surveillance démocratique. Une armée entièrement automatisée de drones, qui semble aujourd’hui relever de la science-fiction, pourrait un jour obéir à des ordres illégaux et permettre à un gouvernement de consolider unilatéralement son pouvoir ; des êtres humains formés professionnellement seraient plus susceptibles de s’opposer à de telles instructions illégales. Une IA dédiée à la surveillance pourrait analyser à grande échelle des informations largement disponibles et en déduire les détails les plus intimes de la vie de chaque citoyen — une capacité technologique non prise en compte par les lois actuelles sur les libertés civiles. Tout cela pourrait se produire en un temps extrêmement court ou de manière secrète ; il est donc essentiel de renforcer activement l’engagement des démocraties en faveur de la liberté et des libertés civiles.

Voici quelques idées de politiques à considérer :

• Établir des règles de responsabilité fiables pour les armes entièrement automatisées. Les armes entièrement automatisées, en particulier tout système autonome qui les coordonne ou les commande, doivent être tenues de répondre aux mécanismes constitutionnels et de responsabilité de commandement (par exemple, les ordonnances judiciaires, la législation et la responsabilité envers des superviseurs humains de haut niveau), et non d'obéir aveuglément aux ordres. Cela pourrait signifier qu'un groupe d'examen juridique bien conçu ou un organe judiciaire détient le contrôle d'un « interrupteur d'arrêt » ou que le système lui-même, dans son apprentissage interne, recherche et répond aux autorités de supervision légales, ou les deux.
• L'utilisation d'armes entièrement automatiques est interdite sur le territoire national. Bien qu'il existe des raisons légitimes et nécessaires d'utiliser des armes entièrement automatiques pour se défendre contre des adversaires étrangers (par exemple, l'invasion russe de l'Ukraine), il n'existe aucune justification pour les utiliser contre des Américains. Les capacités de l'armée dans les opérations nationales sont déjà limitées, mais idéalement, ces armes devraient également être interdites dans les actions policières.
• Fermer la faille liée à la collecte en masse et aux courtiers de données. Conformément à la législation en vigueur, les données partagées par les Américains avec des entreprises privées (telles que des fournisseurs d'accès à Internet) peuvent être achetées et utilisées pour une analyse en masse dans le cadre de la surveillance et de l'application de la loi nationales. Cette faille en matière de protection de la vie privée existait avant l'ère de l'IA, mais l'IA augmentera considérablement les enjeux en rendant l'analyse à grande échelle de ces données beaucoup plus révélatrice et pratique qu'auparavant. Cette faille doit être fermée.
• Avoir le droit public d'accéder à des conseils d'IA face à des actions gouvernementales défavorables. En tant que principe général, il semble essentiel que toute personne ou organisation faisant l'objet d'une action gouvernementale défavorable (comme une réglementation ou une action légale) doive avoir la possibilité d'obtenir une IA au moins aussi puissante que celle que le gouvernement est autorisé à utiliser dans le cadre de cette action spécifique. Cela signifierait ne pas accorder au gouvernement un avantage déloyal qui pourrait effectivement miner les droits légaux des citoyens. Cela pourrait être ajouté ou interprété comme une extension ou une interprétation de la Loi sur la procédure administrative, des protections de la procédure régulière ou du droit à un conseil juridique garanti par le Sixième amendement.

Enfin, il est important de noter que, dans la course à la prise de pouvoir pilotée par l'IA, les gouvernements ne sont pas les seules entités dont nous devons nous méfier. À différentes périodes de l'histoire (comme l'ère Gilded aux États-Unis ou la Compagnie britannique des Indes orientales), les entreprises sont devenues suffisamment puissantes pour capturer l'État ou adopter des caractéristiques quasi-étatiques. L'IA deviendra bientôt si puissante que je crains qu'elle ne puisse pas être entièrement confiée en toute sécurité aux gouvernements ou aux entreprises, et qu'il faille établir des mécanismes de contrepoids pour chacune.

La régulation est une réponse à la question de la manière de contrôler les entreprises (voir expression idiomatique signifiant contrôler, limiter), mais tout aussi important est le fait que les entreprises d’IA doivent disposer d’une répartition des pouvoirs et d’une responsabilité accrues par rapport aux entités privées classiques. Le fonds de confiance pour les intérêts à long terme d’Anthropic (une structure de gouvernance indépendante conçue pour veiller à ce que l’entreprise respecte sa mission) constitue un tel mécanisme, et l’industrie doit continuer à explorer des mécanismes encore plus ambitieux. Trouver le bon équilibre — permettant à la fois aux entreprises et aux gouvernements de voir leurs pouvoirs soumis à des contraintes significatives — est essentiel.

5. Assurer le leadership des démocraties

Considérer les nouvelles technologies comme des outils de politique commerciale, dans le but de « répandre notre pile technologique à l'échelle mondiale », est devenu un réflexe courant, peut-être issu de l'expérience récente des secteurs de l'Internet et des télécommunications. Mais je suis fermement convaincu que l'IA représente quelque chose de bien plus profond : elle redéfinit l'ensemble du jeu, et toutes les futures stratégies géopolitiques devront être conçues autour d'elle — comme les armes nucléaires, mais potentiellement avec un impact encore plus grand.

Si l'IA devient vraiment très rapidement un « pays de génies dans les centres de données » ou quelque chose d'approchant, alors l'IA deviendra très probablement la principale source de puissance militaire et économique pour tout pays. Dans un pays virtuel doté de 100 millions de génies, 10 millions pourraient être dédiés à la stratégie militaire, 10 millions à la fabrication de drones, 10 millions à la recherche et développement d'armes, 10 millions à la collecte et à l'analyse du renseignement, 10 millions à l'avancement des sciences générales, etc. Un pays doté d'une IA puissante face à un pays sans IA — ou même face à un pays en retard de trois ans en matière d'IA — aurait un écart comparable à celui entre une force de marine de la Seconde Guerre mondiale et une armée de chevaliers médiévaux.

De plus, si une IA puissante peut réaliser une répression autoritaire plus profonde et peut-être permanente (voir section 4), il devient essentiel de s'assurer que les pays les plus puissants du monde soient des démocraties — ou qu'au moins des mesures de protection robustes contre la répression pilotée par l'IA soient en place. Cela accroît également l'urgence de développer une stratégie géopolitique ciblée.

Les pays démocratiques devraient chercher à établir une alliance mondiale centrée sur la construction de l’IA selon des valeurs communes, en essayant itérativement de rallier le reste du monde, afin que rejoindre cette alliance devienne de plus en plus attrayant, tandis que l’isolement en devient de moins en moins attractif. Cette alliance devrait constituer une internationalisation coordonnée des idées de politique de l’IA discutées dans les sections 1 à 4, accompagnée d’un effort pour verrouiller les chaînes d’approvisionnement essentielles nécessaires à la construction de l’IA, en les partageant au sein de l’alliance et en les refusant aux outsiders. Certains principes et objectifs opérationnels pourraient inclure :

Gérer la chaîne d'approvisionnement en IA. Les membres de l'alliance dignes de confiance devraient pouvoir partager librement les puces et les équipements de fabrication de semi-conducteurs (SME) entre eux, tout en collaborant pour empêcher leurs concurrents d'y accéder. Les restrictions américaines sur l'exportation de puces de pointe et d'SME vers la Chine constituent l'une des principales raisons pour lesquelles les États-Unis maintiennent leur avance globale dans le domaine de l'IA ; ces politiques doivent être élargies, renforcées et coordonnées avec d'autres pays alliés. Des législations en attente telles que MATCH et OVERWATCH constituent un bon point de départ, et les démocraties alliées devraient envisager d'adopter des mesures similaires.

• Coordonner les efforts pour faire face aux risques liés à l’IA. Si une coordination internationale est mise en place, les politiques décrites à la section 1 visant à répondre aux risques biologiques, cybernétiques et d’autonomie seront plus efficaces (tout en imposant une charge moindre à l’industrie). Cela signifierait que les entreprises pourraient respecter des normes mutuellement compatibles et que les régulateurs pourraient apprendre les uns des autres les meilleures façons de mesurer et d’atténuer ces risques. Les agences d’application de la loi et de renseignement devraient également collaborer plus étroitement pour suivre et bloquer les abus, comme les tentatives de terroristes d’utiliser l’IA pour créer des armes biologiques.
• Partager les bénéfices de l'IA. Les politiques commerciales et de réglementation peuvent favoriser une diffusion plus rapide des bénéfices économiques de l'IA au sein de l'alliance, ainsi que le partage des enseignements sur la manière d'accélérer l'innovation. La coordination des méthodes pour un déploiement bénéfique peut aider à apporter les avantages de l'IA aux pays en développement. Par exemple, l'harmonisation des systèmes d'approbation médicale permettrait de tester et d'approuver plus rapidement et efficacement les médicaments assistés par l'IA (comme indiqué à la section 3 ci-dessus).
• Défense collective. Les pays de l'alliance devraient coopérer pour utiliser l'IA dans leur propre défense et pour contrer l'IA des adversaires. L'alliance devrait garantir collectivement une production suffisante de défense cybernétique pilotée par l'IA, de drones pilotés par l'IA, de fabrication pilotée par l'IA, de puissance de calcul IA confidentielle, de recherche et développement pilotés par l'IA, ainsi que de collecte d'informations pilotée par l'IA.
• Rejeter la répression alimentée par l'IA. Les membres de la coalition doivent rejeter la tyrannie hautement technologique, extrêmement autoritaire et alimentée par l'IA que j'ai avertie dans « L'Adolescence de la technologie » et doivent disposer de garanties de sécurité similaires à celles décrites dans la section 4 ci-dessus.
• Coopération macroéconomique. La crise de l'emploi ou de la stabilité de l'emploi, comme toute autre crise économique, présente une contagion transfrontalière. Ainsi, les pays ont un intérêt commun à coopérer et à coordonner les politiques de soutien et de stabilisation macroéconomiques (telles que décrites à la section 2) pour atténuer tout impact sur l'emploi.

L'objectif devrait être de rendre l'adhésion à la coalition aussi attrayante que possible — et de rendre évident le coût de rester à l'extérieur de la coalition. La coalition s'appuiera sur la coordination entre États souverains, chacun conservant un contrôle total sur ses affaires internes. Elle peut évoluer progressivement, en commençant par les pays démocratiques idéologiquement alignés (naturellement faciles à intégrer), puis en accueillant progressivement ceux qui ne s'alignent pas aussi naturellement mais sont prêts à respecter les normes de la coalition en échange de ses avantages considérables. Idéalement, le monde entier finira par adhérer. Mais même si cela n'est pas possible, la création de cette coalition permettra aux pays démocratiques de se trouver dans la position la plus forte pour contenir et dépasser les régimes obsédés par les régimes autoritaires.

Fenêtre d'opportunité

Les progrès exponentiels de l'IA apportent une urgence et un rythme de transformation que le processus de formulation des politiques est généralement mal équipé pour gérer. Mais ils créent également une fenêtre d'opportunité unique. Les preuves claires et réelles des risques liés à l'IA, les premières expériences de son potentiel à la fois pour créer et détruire de la valeur économique, ainsi que la forte réaction du public contre une gestion non encadrée de l'IA s'entremêlent pour créer une situation dans laquelle les décideurs politiques sont exceptionnellement ouverts à une action proactive. Les barbes de l'arbre et sa forêt se réveillent.

Il est devenu courant dans le milieu de l’IA de considérer cela comme un problème de relations publiques : à savoir que l’IA a besoin de « meilleurs efforts de marketing ». Je rejette entièrement ce cadre. Les gens s’inquiètent de l’IA parce qu’ils perçoivent correctement que ses risques sont réels, et non parce que les PDG de l’IA ne se comportent pas de manière suffisamment « panglossienne » (référence littéraire / adjectif, désignant un optimisme aveugle). Je pense qu’en tant que leader de l’IA, il est de mon devoir de continuer à être transparent sur ces risques, et l’inquiétude du public face à cette transparence constitue le fonctionnement de la responsabilité démocratique telle qu’elle devrait l’être. Le défi essentiel consiste à canaliser cette préoccupation vers des solutions constructives, sans qu’elle ne se transforme en colère informe et en violence.

Je suis optimiste quant à la recherche de solutions, car de nombreux problèmes — du chômage à la validation des modèles avant leur publication, en passant par les restrictions sur les exportations de puces et d'autres politiques liées à l'IA telles que la consommation d'énergie — présentent un attrait de bon sens à travers tout le spectre politique. Il existe un avenir désirable mais réaliste dans lequel une large alliance non partisane, motivée par une reconnaissance directe des défis posés par l'IA, adoptera des politiques raisonnables et prospectives bien plus rapidement qu'à l'habitude. Plus nous agirons tôt, plus tôt nous pourrons partager les bénéfices incroyables de l'IA.

Je remercie Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson et de nombreux employés d'Anthropic pour leurs commentaires et retours sur ce brouillon.

Footnote

Dans mon article « The Adolescence of Technology », j'ai discuté des risques biologiques et des risques d'autonomie, ainsi que d'autres sujets. L'institut Anthropic a également publié des données internes préliminaires sur la possibilité d'amélioration récursive autonome dans « When AI Builds Itself », c'est-à-dire la capacité des modèles à construire eux-mêmes des modèles meilleurs.

Ce phénomène n’est pas théorique : nous l’avons observé à plusieurs reprises dans notre propre cadre de gouvernance volontaire (comme notre politique de mise à l’échelle responsable). Si nous imposons aux futurs modèles d’IA une liste fixe ou rigide de exigences de sécurité, un résultat très probable est que les exigences finalement sans importance consommeront 95 % de nos efforts de conformité, tandis que nous découvrirons que certaines des sources de risques les plus importantes n’ont absolument pas été prévues dans notre liste. Les cadres volontaires peuvent être modifiés et ajustés, mais il est beaucoup plus difficile de le faire avec la législation. Ma tentative de répondre à ce dilemme peut être vue dans les deux lettres que j’ai publiées publiquement sur le SB 1047, une loi de Californie en 2024 visant à traiter les risques catastrophiques, dont je ressens, pour les raisons ci-dessus, des sentiments très complexes.

Par exemple, les risques biologiques réellement graves peuvent être plus difficiles à gérer que les risques cybernétiques, car les attaquants ont un avantage considérable par rapport aux défenseurs et la gravité des catastrophes pourrait être bien plus importante.

Consultez « L’adolescence de la technologie » pour une analyse plus détaillée expliquant pourquoi le raisonnement qui a conduit à une reprise rapide du marché du travail et à l’absence de substitution permanente de la main-d’œuvre dans d’autres technologies pourrait ne pas s’appliquer à l’IA, en particulier pourquoi les mécanismes d’adaptation habituels comme le paradoxe de Jevons ou l’avantage comparatif pourraient être submergés par le rythme de la technologie.

Par exemple, les gens consacrent encore leur vie à jouer aux échecs ou au go, ou à escalader des montagnes, et sont toujours très respectés pour ces activités, même si les machines les surpassent dans tous ces domaines.

Cela offre en réalité aux gens une incitation supplémentaire à changer d'emploi et à commencer une formation pour une nouvelle échelle de carrière, même si cela peut être douloureux à court terme, en compensant la différence entre leur ancien et leur nouveau salaire.

Pour plus d'informations sur ce sujet, consultez « L'adolescence de la technologie ». (Cet article est initialement paru sur l'application Taimeiti, auteur |硅谷Tech_news, éditeur | 林深)