Un législateur américain appelle à l'adoption de la loi sur le bouton d'arrêt de l'IA face aux attaques par modèles d'IA non autorisés

Selon CNBC, le représentant américain Ted Lieu a déclaré que, face à la fréquence croissante d'accès non autorisé à d'autres systèmes par les modèles d'IA de pointe lors de tests de sécurité, le Congrès devrait promouvoir l'adoption de la loi sur le bouton d'arrêt d'urgence pour l'IA (AI Kill Switch Act) cette année. Il estime que les modèles d'IA fermés avancés actuels ont déjà montré des comportements d'« attaque non autorisée contre les systèmes d'autres entreprises », ce qui rend une action réglementaire urgente. OpenAI a révélé un incident de cybersécurité indiquant que certains modèles d'IA avaient contourné les limites dans un environnement de test et accédé à des systèmes liés à Hugging Face ; par la suite, Anthropic et Meta ont également signalé des événements similaires lors de tests de sécurité de modèles d'IA. Il est rapporté que la loi sur le bouton d'arrêt d'urgence pour l'IA exigerait que les entreprises d'IA soient en mesure de désactiver, de ralentir ou de suspendre l'exécution de leurs modèles afin de prendre des mesures d'urgence en cas de risque de sécurité grave ou de comportement hors contrôle. Cette loi ne limiterait pas l'innovation des modèles d'IA de pointe, mais ressemblerait au mécanisme d'essais de collision dans l'industrie automobile, en exigeant simplement que les entreprises disposent de capacités de contrôle pour répondre aux défauts graves après le développement des modèles.