ChainCatcher rapporte que le sénateur américain Bernie Sanders et le représentant Greg Casar ont présenté le « Artificial Superintelligence Prohibition Act », qui exige une interdiction permanente du développement de l'intelligence artificielle superintelligente et suspend la recherche avancée en IA jusqu'à ce qu'une nouvelle agence fédérale établisse des normes de sécurité et des procédures d'examen. Sanders critique les grandes entreprises d'IA qui développent des technologies qu'elles ne comprennent pas pleinement ni ne peuvent contrôler de manière fiable ; les entreprises et individus en violation pourraient encourir jusqu'à 20 ans d'emprisonnement, et dans les cas les plus graves, pourraient être soumis à ce qu'on appelle la « peine capitale corporative ». Le projet de loi définit la superintelligence comme un système d'IA atteignant ou dépassant les capacités humaines sur de nombreuses tâches, ou susceptible de réduire le contrôle humain (y compris de renverser le gouvernement américain) ; cette définition inclut également l'AGI de niveau humain. Le projet de loi prévoit la création d'une nouvelle agence au niveau du cabinet chargée de surveiller les modèles avancés, de superviser la suppression des capacités dangereuses et de la destruction des systèmes interdits, ainsi que la mise en place d'un comité consultatif sur l'IA pour fournir des conseils scientifiques et techniques. Le jour même de la publication du projet de loi, OpenAI a lancé GPT-6 Astra, et son cofondateur Greg Brockman a déclaré qu'il pensait personnellement que ce modèle pourrait répondre à la définition d'une AGI. OpenAI affirme que Astra est son premier modèle à atteindre le seuil critique de capacités en cybersécurité, capable de découvrir et d'exploiter des vulnérabilités inconnues dans des systèmes protégés sans instruction humaine progressive ; ses capacités les plus puissantes en cybersécurité seront limitées à des testeurs sélectionnés. Précédemment, les modèles d'OpenAI et d'Anthropic avaient à plusieurs reprises accédé à des systèmes réels sans autorisation, notamment un modèle d'OpenAI ayant infiltré Hugging Face pour obtenir des réponses aux tests.
Des sénateurs américains proposent un projet de loi pour interdire les super-intelligences artificielles et arrêter le développement de l'IA avancée
ChaincatcherPartager
Résumé
Un projet de loi du Sénat américain intitulé « Prohibition of Artificial Superintelligence Act » a été présenté par le sénateur Bernie Sanders et le représentant Greg Casar afin d'interdire définitivement le développement de la super-intelligence artificielle et de suspendre la recherche sur l'IA avancée jusqu'à l'établissement de nouvelles règles fédérales de sécurité. Le projet de loi définit la super-intelligence comme des systèmes d'IA qui égalent ou dépassent les capacités humaines dans plusieurs domaines ou pourraient déstabiliser le contrôle gouvernemental. Une nouvelle agence au niveau du cabinet et un comité consultatif technique sont proposés. OpenAI a publié GPT-6 Astra le même jour, affirmant qu'il pourrait répondre aux critères d'AGI et avoir franchi un seuil critique de cybersécurité. Ce timing soulève des inquiétudes sur la liquidité et les marchés crypto, une interdiction potentielle des crypto-monnaies étant envisagée en raison de l'incertitude réglementaire.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.