OpenAI propose des normes mondiales de sécurité pour le développement d'IA autonome

L'intelligence artificielle s'améliore pour accomplir bien plus que répondre à des questions. Les systèmes d'IA aident désormais à la programmation, à la recherche, à l'analyse et à d'autres tâches qui étaient autrefois gérées presque entièrement par des humains. Cela soulève une nouvelle question : que se passe-t-il lorsque l'IA commence à jouer un rôle plus important dans la création de la prochaine génération d'IA ?

OpenAI appelle désormais à l'établissement de normes internationales pour aider à répondre à cette question. Dans un message du 21 septembre intitulé « Élaborer des normes pour la prochaine phase de l'IA », OpenAI a proposé une initiative internationale menée par les États-Unis pour créer des normes techniques communes pour les IA de pointe. L'entreprise affirme que ces normes pourraient aider les pays à mesurer les capacités de l'IA, évaluer les risques, tester les mesures de sécurité et signaler les incidents graves en utilisant des méthodes plus cohérentes.

• OpenAI souhaite des normes internationales pour évaluer les IA de pointe.
• La proposition couvre les fonctionnalités, les risques, les mesures de protection et la déclaration des incidents.
• OpenAI affirme qu'une amélioration récursive entièrement autonome ne se produit pas aujourd'hui.
• L'entreprise souhaite que le contrôle humain reste central à mesure que l'IA devient plus performante.
• Les organisations existantes en matière de sécurité de l'IA pourraient aider à développer des normes techniques communes.

L'idée de base est assez simple. Il n'est pas nécessaire que chaque pays développe une méthodologie entièrement différente pour évaluer les dangers posés par l'IA avancée. Selon OpenAI, standardiser les approches techniques peut offrir aux nations, aux chercheurs et à la communauté de l'IA un moyen efficace d'évaluer leurs IA de plus en plus sophistiquées. Cela devient d'autant plus pertinent lorsque des incidents liés à l'IA se produisent à travers les frontières.

L'entreprise ne propose pas une loi unique sur l'IA à l'échelle mondiale. Elle souhaite plutôt que les pays élaborent des normes compatibles que les gouvernements pourront ensuite décider d'appliquer dans leurs propres systèmes réglementaires. Cette différence est importante, car les normes proposées ne deviennent pas immédiatement des exigences pour l'obtention d'une licence ou d'une certification pour toutes les technologies d'intelligence artificielle. Les gouvernements conservent le pouvoir de déterminer comment les normes s'appliqueront dans leurs juridictions respectives.

L'une des parties les plus intéressantes de la proposition d'OpenAI est sa discussion sur l'amélioration récursive de soi (RSI). Le concept décrit un avenir dans lequel les systèmes d'IA pourraient aider de plus en plus les chercheurs à développer des systèmes d'IA plus performants. En termes simples, l'IA pourrait devenir une partie du processus d'amélioration de l'IA elle-même.

Cela pourrait potentiellement accélérer la recherche en IA. Mais cela soulève également une question de sécurité complexe : quelle quantité de supervision humaine devrait rester impliquée si les systèmes d'IA deviennent fortement impliqués dans le développement de futurs modèles ?

OpenAI affirme qu'une auto-amélioration récursive entièrement autonome ne se produit pas aujourd'hui. Elle soutient également qu'une telle direction ne devrait pas être poursuivie à moins qu'elle ne puisse être réalisée en toute sécurité tout en conservant le contrôle humain. Cela rend l'évaluation et les tests de sécurité encore plus importants à mesure que les systèmes d'IA deviennent capables de gérer des tâches de recherche et de développement de plus en plus complexes.

OpenAI mention également les organisations et réseaux existants de sécurité de l'IA à travers le monde comme des éléments potentiels pour ce projet. L'entreprise cite spécifiquement des instituts de sécurité de l'IA et des organisations associées dans des pays tels que les États-Unis, le Royaume-Uni, le Canada, la France, l'Allemagne, le Japon, la Corée du Sud, Singapour, l'Inde, le Kenya et l'Australie.

Plutôt que chaque pays développe une approche technique entièrement distincte, OpenAI souhaite que ces groupes travaillent ensemble vers des normes qui puissent se compléter. La proposition appelle également à la participation des développeurs d’IA, des chercheurs, des universitaires et des experts techniques indépendants. OpenAI affirme que les normes devraient être conçues autour de mesures techniques plutôt que des intérêts d’une entreprise ou d’un pays particulier.

Le moment est remarquable. Les entreprises d'IA développent des systèmes capables d'effectuer de plus en plus de tâches en plusieurs étapes avec moins d'entrée humaine directe, tandis que les gouvernements peinent encore à réguler cette technologie.

Reuters a rapporté qu'OpenAI souhaite que les États-Unis jouent un rôle de leader dans l'élaboration de normes techniques internationales pour l'IA avancée. Le plus grand défi pourrait être d'obtenir que les pays et les entreprises s'accordent sur ce que ces normes devraient mesurer exactement et comment elles devraient être appliquées.

Pour l'instant, la proposition d'OpenAI se concentre sur la création d'une base technique commune avant que les IA de pointe ne deviennent encore plus performantes. À mesure que l'IA assurera une part croissante du travail impliqué dans le développement de l'IA elle-même, disposer d'une méthode partagée pour mesurer les capacités, les risques et les mesures de sécurité pourrait devenir une composante de plus en plus importante de la discussion.

Cet article a été initialement publié sous le titre OpenAI plaide en faveur de normes mondiales de sécurité pour l'IA alors que l'IA devient plus autonome sur Crypto Breaking News – votre source de confiance pour les actualités crypto, les nouvelles sur le bitcoin et les mises à jour sur la blockchain.