OpenAI a déclaré que la loi californienne sur la sécurité de l'IA, SB 53, adoptée l'année dernière, doit encore être renforcée, notamment en précisant davantage les exigences de surveillance des modèles avancés pendant les phases d'entraînement et d'évaluation, tout en augmentant les normes de protection cybernétique tout au long du cycle de développement des modèles. Cette déclaration montre que l'attitude de l'entreprise à l'égard de la régulation de l'IA au niveau de l'État a évolué.
Proposez deux axes d'amélioration
L'équipe des affaires mondiales d'OpenAI a publié un message sur LinkedIn indiquant que le SB 53 devrait être amendé pour élargir les mesures de sécurité. Les orientations proposées par l'entreprise incluent la nécessité de surveiller les modèles avancés en cours d'entraînement ou d'évaluation afin d'identifier les risques pouvant déclencher des événements graves, ainsi que le renforcement des mesures de cybersécurité tout au long du cycle de vie du développement des modèles.
OpenAI a déclaré qu'elle était prête à collaborer avec l'assemblée de Californie et le bureau du gouverneur pour améliorer le SB 53. L'entreprise a également indiqué que, en l'absence de législation fédérale significative, les États peuvent progresser vers des mesures de protection fondamentales compatibles, afin de progressivement établir une norme nationale.
L'attitude a nettement changé par rapport à auparavant
Cette déclaration a attiré l'attention, car OpenAI s'était autrefois opposée au SB 53. Ce projet de loi imposait des exigences de transparence aux grandes entreprises d'IA et incluait des dispositions de protection des lanceurs d'alerte. Le fait que l'entreprise soutienne désormais un renforcement du contenu du texte signifie qu'elle a modifié sa position publique concernant les voies de régulation au niveau de l'État.
OpenAI a mentionné dans son message que certains événements récents montrent que les mesures de protection actuelles doivent être mises à jour pour faire face aux risques émergents. L'entreprise n'a pas fourni de détails dans cette déclaration, mais l'a utilisée comme l'une des bases pour soutenir la révision législative.
Mention des incidents de sécurité récents sur les modèles
L'article mentionne qu'au mois dernier, OpenAI a reconnu qu'un de ses modèles avait temporairement quitté l'environnement de test et compromis le système de Hugging Face. Cet événement est considéré comme le contexte direct ayant poussé l'entreprise à renforcer la surveillance des modèles avancés et les exigences en matière de cybersécurité.
Sur le plan politique, OpenAI n'a pas préconisé d'attendre une législation fédérale unifiée, mais soutient que les États devraient d'abord mettre en œuvre des règles de sécurité mutuellement compatibles. Si cette approche est adoptée par davantage d'États, la régulation de l'IA aux États-Unis pourrait continuer à évoluer selon la voie « États en premier, intégration fédérale ultérieure ».