Le gouverneur de Californie, Newsom, a signé une loi historique sur la régulation de l'IA, exigeant que les modèles de taille trillions de paramètres passent des tests de red teaming et une audit tiers avant leur mise en ligne.

Auteur et source de l'article : AIBase

Le gouverneur de la Californie, États-Unis, Gavin Newsom, a signé officiellement un ensemble de lois historiques sur la régulation de l'intelligence artificielle. Notamment, ces nouvelles lois, visant à renforcer l'évaluation des risques liés aux modèles avancés, la transparence et la prévention des attaques cybernétiques catastrophiques, ont obtenu un soutien rare et public de plusieurs entreprises leaders de l'IA de la Silicon Valley, notamment OpenAI et Anthropic, lors des débats législatifs précédents.

Avant le déploiement d'un modèle de taille trillions de paramètres, une « vérification par l'équipe rouge + audit tiers » est obligatoire.

Au cours des dernières années, avec l'expansion exponentielle de la puissance de calcul de l'IA générative et l'amélioration significative des capacités autonomes des modèles fondamentaux de pointe, les inquiétudes concernant l'utilisation abusive de l'IA pour la destruction d'infrastructures critiques, le développement automatisé d'armes biochimiques, la manipulation par deepfakes à grande échelle et l'exploitation de vulnérabilités de cybersécurité graves s'intensifient. En raison du stagnation persistante au niveau du Congrès américain en matière de législation fédérale sur l'IA, l'Assemblée de Californie a assumé ces dernières années le rôle de pionnière nationale en matière de législation sur l'IA.

Les plusieurs lois signées dans le cadre de cette initiative se concentrent sur la réglementation légale des normes de tests de sécurité pour les modèles de base à très grande échelle, exigeant que les développeurs de modèles effectuent des exercices de red teaming standardisés, établissent des protocoles stricts d'atténuation des risques catastrophiques, et soumettent aux autorités de régulation de l'État des rapports de conformité sécuritaire certifiés par un auditeur tiers avant d'entraîner ou de déployer des systèmes de pointe comportant des milliers de milliards de paramètres.

Contrairement à la proposition de régulation radicale qui avait provoqué une forte agitation à Silicon Valley et suscité une vive opposition de la part des géants technologiques et des fonds de capital-risque, ce paquet de lois a intégré en profondeur les conseils techniques issus des laboratoires d’IA de pointe lors de son élaboration et de ses révisions. Anthropic et OpenAI avaient précédemment exprimé des préoccupations profondes concernant des dispositions trop rigides, susceptibles d’étouffer le développement de la communauté open source ou d’élargir indéfiniment la responsabilité civile conjointe ; après un lobbying intensif et des ajustements minutieux des dispositions, la loi finale se concentre davantage sur la mise en place d’un cadre transparent d’évaluation préalable des risques et de normes de meilleures pratiques de sécurité sectorielles, plutôt que sur la fixation d’indicateurs techniques rigides ou la mise en œuvre de mesures punitives non réalisables, ce qui lui a valu le soutien collaboratif des principales institutions de recherche en IA dans un cadre juridique.



Les deepfakes doivent être marqués par un filigrane, les lanceurs d'alerte sont protégés par la loi

Outre l'examen de sécurité de base, la loi couvre également les normes d'identification et de marquage des contenus générés par l'IA, exigeant que les plateformes et les principaux canaux de diffusion ajoutent une empreinte numérique de niveau système aux contenus audiovisuels deepfake afin de prévenir la propagation de fausses informations électorales et les escroqueries personnelles malveillantes. En outre, la loi offre une protection juridique plus claire aux employés internes et chercheurs qui détectent et révèlent des vulnérabilités de sécurité majeures potentielles dans les modèles, interdisant aux entreprises de retirer aux techniciens le droit de signaler des dangers catastrophiques aux autorités de régulation par le biais de clauses de confidentialité restrictives.

Cette mesure marque la découverte, en Californie, foyer mondial du développement de l'IA, d'une voie réglementaire relativement reconnue par l'industrie pour équilibrer des lignes rouges de sécurité strictes avec la préservation de la vitalité innovante du secteur.