Dario Amodei a un message pour ses collègues dirigeants de l'IA qui pensent que le public a simplement besoin d'une meilleure communication : le problème n'est pas le message, c'est le produit.
Le PDG d'Anthropic a publié un essai long intitulé « Policy on the AI Exponential » qui aborde directement la montée de la réaction négative contre l'intelligence artificielle. Plutôt que de blâmer les couvertures médiatiques négatives ou le cadre pessimiste adopté par les dirigeants du secteur, Amodei affirme que l'anxiété du public à l'égard de l'IA repose sur des risques légitimes et bien documentés. Son diagnostic : l'industrie de l'IA fait face à une crise de confiance, et non à une crise de communication.
Risques réels, peur réelle
L'essai d'Amodei identifie quatre catégories de risques spécifiques qu'il estime mériter une préoccupation sérieuse : les menaces cybernétiques, le développement d'armes biologiques, la perte de contrôle humain sur les systèmes d'IA et la perspective d'une recherche et développement entièrement automatisés.
Amodei considère essentiellement ce raisonnement à l'envers. Les gens ne s'inquiètent pas parce que les leaders de l'IA alertent. Ils s'inquiètent parce que les alertes sont justifiées.
Pour étayer cette position, il propose des évaluations obligatoires par des tiers pour les modèles formés avec des ressources de calcul importantes. Les tests couvriraient les mêmes quatre catégories de risque, créant une couche de vérification indépendante entre les laboratoires d’IA et le public.
200 millions de dollars et un plan d'action
Anthropic soutient les propos d'Amodei par des investissements. L'entreprise a engagé 200 millions de dollars dans la recherche axée sur la compréhension des impacts sociétaux plus larges de l'IA.
L'investissement finançera des travaux sur des questions qui dépassent largement la sécurité technique. Amodei a explicitement appelé à la mise en place de programmes de réassurance des salaires et de mesures fiscales ciblées conçues pour atténuer les perturbations du marché du travail que l'automatisation par l'IA est censée provoquer.
Dans un entretien exclusif avec ABC News coordonné avec la publication de l'essai, Amodei a présenté d'autres propositions politiques. Parmi les plus notables : accorder aux agences gouvernementales le pouvoir d'arrêter les déploiements d'IA jugés dangereux.
Son cadre préféré s'inspire des modèles réglementaires existants. L'analogie avec la FAA est délibérée. La réglementation de la sécurité aérienne n'a pas détruit l'industrie aérienne. Elle a fait de l'avion le moyen de transport de masse le plus sûr de la planète.