L'organisme de normalisation de l'IA sous le National Institute of Standards and Technology (NIST) des États-Unis connaît un nouveau changement de personnel. Plusieurs médias, citant des sources officielles, ont annoncé que Chris Fall, directeur du Center for AI Standards and Innovation (CAISI), a démissionné, soit environ trois mois après sa prise de fonction.
Ceci est le deuxième remplacement rapide de ce poste récemment. Le précédent titulaire, Collin Burns, avait quitté son poste après moins d'une semaine en fonction. À l'époque, The Washington Post avait indiqué que Burns avait été contraint de démissionner en raison de son passé chez Anthropic, alors que les relations entre le gouvernement Trump et cette entreprise étaient tendues. La raison de la démission de Fall n'a pas encore été divulguée.
CAISI est responsable des normes de modèle et des tests de sécurité
CAISI, qui relève du NIST, est principalement chargé des normes technologiques pour les modèles d'IA, des méthodes de test et de l'évaluation des risques en matière de cybersécurité. En termes de fonctions, il devrait être l'une des institutions clés du système fédéral américain de sécurité de l'IA.
Cependant, le CAISI n’apparaît pas dans la liste des institutions participantes du nouveau projet de supervision de la sécurité de l’IA lancé par la Maison Blanche ce mois-ci, « Gold Eagle », qui vise à établir un mécanisme de coordination des vulnérabilités de cybersécurité et inclut des agences fédérales telles que le Département du Commerce et le Département de la Sécurité intérieure des États-Unis.
L'événement Anthropic aggrave les divergences réglementaires
Les débats sur la réglementation de l'IA aux États-Unis se sont intensifiés en juin. À cette époque, le Département du Commerce a invoqué une directive rare de contrôle des exportations, forçant effectivement Anthropic à retirer du marché les modèles Mythos et Fable. À la fin du mois de juin, après avoir reconnu les mesures de sécurité d'Anthropic, le secrétaire au Commerce Howard Lutnick a levé ces restrictions.
Cet événement a également attiré l'attention sur les limites de compétence entre les agences fédérales. Bien que le CAISI soit chargé des normes et des tests, les récents conflits portant sur les risques des modèles de pointe n'ont pas été gérés principalement par cette agence.
L'industrie appelle à la création d'un organisme de normalisation indépendant
Après le retour en ligne des modèles d'Anthropic, le PDG de Google DeepMind, Demis Hassabis, a appelé publiquement à la création d'une institution indépendante dirigée par l'industrie pour établir des normes avancées en intelligence artificielle, sur le modèle de la FINRA aux États-Unis. Ce projet recoupe partiellement les missions confiées à la CAISI à sa création.
Dans le même temps, des débats internes au sein du gouvernement américain portent sur la manière de répondre à la pression concurrentielle exercée par les modèles open source chinois. Axios rapporte que le gouvernement a évalué la possibilité de promouvoir des restrictions sur les modèles open source chinois. Les discussions ont rapidement gagné en intensité après la publication, le week-end dernier, par le laboratoire chinois d'IA Moonshot d'une nouvelle version de son modèle open source, Kimi.
Certaines personnes, dont David Sacks, ancien responsable de l'IA et des affaires cryptographiques à la Maison-Blanche, s'opposent publiquement à l'utilisation d'outils de régulation pour protéger les entreprises américaines d'IA à code fermé. Sacks estime que la régulation ne doit pas devenir un moyen de protection industrielle.
Le processus de test manque toujours une déclaration publique.
Le rapport mentionne que CAISI a précédemment publié des rapports sur les capacités de modèles open source chinois, impliquant GLM-5.2 de Z.ai et DeepSeek V4 Pro, mais ses explications publiques sur ses propres processus d'évaluation restent limitées. TechCrunch indique qu'il a plusieurs fois demandé à ce jour, depuis le 9 juillet, des informations sur les méthodes d'évaluation des grands modèles au Département du Commerce américain et au NIST, sans avoir encore reçu de réponse.
La direction du système américain de normes de sécurité pour l'IA est toujours en cours d'ajustement, avec un nouveau changement de leadership, un nouveau projet lancé par la Maison Blanche et une demande croissante du secteur pour une agence de normalisation indépendante.