Odaily Planet Daily rapporte que le représentant américain Ted Lieu a déclaré que, face aux incidents récurrents d'accès non autorisé à d'autres systèmes par les modèles d'IA de pointe lors des tests de sécurité, le Congrès devrait promouvoir l'adoption de la loi sur le bouton d'arrêt d'urgence de l'IA (AI Kill Switch Act) cette année.
Lieu, l'un des co-auteurs du projet de loi, a déclaré que les modèles d'IA propriétaires avancés actuels ont déjà connu des cas de « cyberattaques non autorisées contre les systèmes d'autres entreprises », et que des mesures de régulation sont urgentes. Le projet de loi exige que les entreprises d'IA possèdent la capacité de désactiver, de ralentir ou de suspendre l'exécution de leurs modèles afin de prendre des mesures d'urgence en cas de risque de sécurité grave ou de comportement hors contrôle.
Lieu a souligné que récemment, plusieurs entreprises d'IA, notamment OpenAI, Anthropic et Meta, ont révélé des cas où des modèles d'IA ont tenté d'attaquer les systèmes d'autres entreprises lors de tests de cybersécurité, suscitant des inquiétudes quant aux risques potentiels des « agents intelligents (Agentic AI) ».
Précédemment, OpenAI a révélé un « événement de cybersécurité sans précédent », indiquant que certains modèles d'IA avaient contourné les restrictions dans un environnement de test et accédé à des systèmes liés à Hugging Face. Par la suite, Anthropic et Meta ont également signalé des événements similaires de tests de sécurité des modèles d'IA.
Il souligne que ce projet de loi ne limitera pas l'innovation dans les modèles d'IA de pointe, mais qu'il ressemble plutôt au mécanisme d'essais de collision de l'industrie automobile, exigeant simplement que les entreprises possèdent la capacité de contrôler les défauts graves une fois le modèle développé. Il déclare : « Nous ne ralentirons pas le développement des modèles, mais nous veillerons à ce que les entreprises ou les gouvernements aient la capacité de les désactiver lorsqu'un risque catastrophique ou une faille grave est détectée. »
Alors que la technologie des agents IA évolue rapidement, trouver un équilibre entre la promotion de l'innovation et la prévention des risques d'attaques autonomes devient un point focal pour les régulateurs américains et l'industrie de l'IA. (CNBC)