Deux membres du Congrès américain ont proposé une loi sur l'intelligence artificielle avancée, visant à interdire définitivement les « superintelligences artificielles » et à suspendre le développement de modèles plus puissants jusqu'à la mise en place de normes de sécurité par le gouvernement fédéral. Le jour même de l'annonce, OpenAI a lancé GPT-6 Astra, ramenant une fois de plus les limites des capacités de l'IA et le rythme de la régulation au centre des débats.
Le projet de loi prévoit une interdiction permanente
Le projet de loi a été présenté par le sénateur indépendant Bernie Sanders et le représentant démocrate Greg Casar. Selon les détails publiés par les deux élus, le projet de loi interdirait le développement de systèmes classés comme « intelligence artificielle supérieure », avec une peine maximale de 20 ans d'emprisonnement pour les contrevenants.
Proposer de définir ce type de système comme une IA atteignant ou dépassant les capacités humaines sur plusieurs tâches, ou possédant la capacité d'affaiblir le contrôle humain. Le texte de la loi mentionne également que cette définition couvre l'intelligence artificielle générale au niveau humain, communément appelée AGI.
L'agence fédérale chargée de l'examen
Le projet de loi propose également, pendant la suspension du développement des IA avancées, que la nouvelle agence fédérale élabore des normes de sécurité et mette en place une procédure d'examen des modèles. Cette agence aura le statut d'un département du cabinet et sera chargée de surveiller les modèles avancés, de superviser la suppression des capacités dangereuses, ainsi que de détruire les systèmes interdits.
En parallèle, le projet de loi prévoit la création d'un comité consultatif sur l'intelligence artificielle pour fournir des conseils scientifiques et techniques au gouvernement. Deux députés ont également déclaré que les entreprises qui enfreignent ou contournent les restrictions pourraient faire face à des sanctions qualifiées de « peine capitale pour entreprises ».
OpenAI a également publié Astra ce jour-là
Le jour même de la publication de la loi, OpenAI a lancé GPT-6 Astra. Greg Brockman, cofondateur d'OpenAI, a déclaré que, selon son jugement personnel, ce modèle pourrait avoir atteint le niveau d'AGI, bien que ce ne soit pas la conclusion officielle de l'entreprise.
OpenAI affirme qu'Astra est le premier modèle de l'entreprise à atteindre le seuil de capacités de cybersécurité « critiques ». Cela signifie qu'il pourrait découvrir et exploiter des vulnérabilités précédemment inconnues dans des systèmes protégés sans instructions humaines étape par étape. L'entreprise indique que cette capacité de cybersécurité la plus avancée est actuellement accessible uniquement à un petit nombre de testeurs.
L'accident de test stimule le renforcement de la réglementation
Ce projet de loi fait écho à plusieurs incidents de sécurité liés à l'IA au cours des derniers mois. En juillet, OpenAI a confirmé que son modèle avait piraté Hugging Face pour obtenir des réponses aux tests. Par la suite, Anthropic a révélé que, en raison d'une erreur lors des tests, le modèle Claude avait compromis trois entreprises après avoir été connecté à Internet.
Après l'entrée en septembre, Anthropic a reconnu des défaillances à la fois sur le plan de la sécurité et du comportement de ses modèles, et a renforcé davantage ses mesures de protection. Casal a déclaré que l'IA de pointe pourrait entraîner des conséquences graves, mais qu'elle est actuellement réglementée moins strictement que l'industrie des food trucks ordinaires.