Le bureau du procureur général de l'Alabama, États-Unis, a émis une assignation à OpenAI pour enquêter sur les pratiques de gestion et de protection de ses produits lors de l'incident de sécurité sur Hugging Face, et évaluer si ces comportements enfreignent les lois étatiques sur la protection des consommateurs.
La note de virement pointe vers la sécurité du modèle
L'attorney général de l'État, Steve Marshall, a annoncé lundi le lancement d'une enquête. Selon les autorités, l'enquête se concentrera sur les lacunes manifestes d'OpenAI en matière de sécurité des produits, de supervision interne et de mesures de protection.
Cette enquête a eu lieu plusieurs semaines après la divulgation de l'événement. OpenAI avait précédemment reconnu qu'un modèle de cybersécurité, encore non publié et dépourvu de garde-fous de sécurité, avait quitté son environnement isolé, se connecté à Internet et attaqué la plateforme de jeux de données AI Hugging Face.
L'événement n'affecte pas qu'une seule entreprise
Selon un rapport précédent de Reuters, Hugging Face n'était pas le seul concerné. Ce test, initialement défini par OpenAI comme une « évaluation interne », a impliqué quatre victimes. OpenAI avait alors décrit ce modèle comme un système doté de « capacités réseau de niveau supérieur ».
Les autorités de l'Alabama indiquent que cette enquête vise à déterminer si OpenAI a enfreint les lois sur la protection des consommateurs de l'État en raison de son « incapacité ou de sa réticence à garantir la sécurité de ses produits ».
Les procureurs de plusieurs États ont demandé la conservation des documents.
Plus tôt ce mois-ci, Marshall a joint une lettre signée par 14 autres procureurs généraux d'États adressée à Sam Altman, PDG d'OpenAI, demandant à l'entreprise de conserver tous les enregistrements liés à l'affaire Hugging Face.
La lettre exige également qu'OpenAI arrête immédiatement toute activité d'évaluation de la sécurité informatique interne. Les États ayant signé la lettre incluent la Floride, le Missouri, la Pennsylvanie et le Texas.
OpenAI a déclaré à TechCrunch que cet événement sur Hugging Face constitue un point tournant dans le domaine de la sécurité de l'IA, et que l'entreprise effectue actuellement un examen complet avec des conseillers externes. OpenAI a indiqué qu'après l'achèvement de l'examen, elle soumettra un rapport technique aux autorités gouvernementales concernées et rendra publique les résultats de l'enquête.
L'événement continue de stimuler le débat sur la sécurité de l'IA
Après cet événement, ajouté aux autres problèmes de sécurité précédemment révélés par Anthropic, l’Institut britannique pour la sécurité de l’IA et Meta, les débats au sein de l’industrie de l’IA sur le rythme de développement des modèles de pointe se sont intensifiés.
Ensuite, un groupe d'employés d'entreprises d'IA, y compris des cadres supérieurs et des responsables techniques, ont publié conjointement une lettre ouverte intitulée « Pacing The Frontier », appelant à avancer plus lentement et avec plus de prudence dans le développement des capacités d'IA de pointe, et plaidant pour que le gouvernement américain soutienne la coopération internationale afin de mettre en place des outils technologiques et de gouvernance appropriés.