Alors que la compétition dans l'IA s'accélère, le dirigeant d'OpenAI a rarement révélé à ses employés trois futurs possibles capables de transformer l'ensemble du secteur.Auteur et source de l'article : Wall Street Journal
Le 19 octobre, selon The Information, le PDG d'OpenAI, Sam Altman, a décrit la semaine dernière aux employés trois voies de développement de la sécurité de l'IA discutées dans l'industrie : créer une organisation de régulation internationale similaire à l'Agence internationale de l'énergie atomique, fusionner les principaux laboratoires d'IA en une seule entité, et permettre à une seule entreprise de monopoliser la puissance de calcul, en « détruisant tous les GPU des concurrents ». Ces déclarations interviennent au moment où le gouvernement Trump entreprend de mettre en place le premier cadre réglementaire destiné aux développeurs de « super-intelligence ».
Altman a déclaré qu'OpenAI devra décider, au cours de la prochaine année, quelle voie suivre. Il a également souligné son souhait que les humains conservent toujours le contrôle de cette technologie, afin d'éviter une concentration excessive du pouvoir dans l'industrie.
Trois chemins, chacun ayant un objectif spécifique. Selon deux personnes informées, le premier chemin présenté par Altman aux employés consiste à créer une organisation internationale, similaire à l’Agence internationale de l’énergie atomique (AIEA), chargée de faire respecter les normes de sécurité en matière d’IA. Altman lui-même privilégie cette solution.
En fait, l'idée d'Altman de promouvoir une agence de régulation internationale du type AIEA existe depuis longtemps. Il a été rapporté qu'en mai 2023 déjà, Altman, le cofondateur d'OpenAI Greg Brockman et l'ancien chef scientifique Ilya Sutskever avaient publié conjointement un article soutenant que le secteur pourrait avoir besoin d'une « agence de régulation des superintelligences du type AIEA », dotée du pouvoir d'inspecter les systèmes, d'exiger des audits et de suivre la puissance de calcul et la consommation énergétique.
Cette idée nécessite la participation des pays développant les modèles les plus avancés à une coopération internationale.
Le deuxième chemin, appelé par Altman la « solution Demis » — en référence à une idée proposée il y a environ dix ans par Demis Hassabis, ancien directeur de DeepMind, filiale d'Alphabet — consiste à créer une institution semblable au CERN, regroupant efficacement les principales entreprises d'IA ou unifiant leurs résultats pour fournir de nouveaux modèles aux pays partenaires.
Troisième voie, qu'Altman appelle « la solution Eliezer », du nom du théoricien renommé de la sécurité de l'IA Eliezer Yudkowsky. Son logique fondamentale est la suivante : lorsqu'un développeur d'IA parvient en premier à une amélioration récursive de soi (RSI), il utilise la puissance économique ainsi acquise pour déposséder tous les autres développeurs de leurs ressources de calcul, en « fondant tous les GPU des concurrents ».
Pour le troisième chemin, Altman a une attitude claire : « C’est manifestement mauvais. » Il a mentionné cette option uniquement pour « complétude ».
La troisième voie, « la solution Eliezer », fait-elle allusion à Anthropic ? Selon des sources informées, en raison des liens entre Yudkowsky et les membres clés d'Anthropic, la caractérisation par Altman de la « solution Eliezer » — consistant à concentrer les IA avancées sous le contrôle d'une seule entreprise — a été interprétée par certains employés comme une critique implicite d'Anthropic.
Anthropic pousse également activement son propre agenda en matière de sécurité de l'IA. Récemment, l'entreprise a soumis aux membres du Congrès un projet de loi proposant d'autoriser le Département du Commerce à suspendre l'entraînement ou l'utilisation de modèles d'IA si ceux-ci risquent de causer des pertes supérieures à 1 milliard de dollars ou de provoquer la mort ou des blessures graves de plus de 50 personnes, et exigeant que les laboratoires d'IA soient soumis à au moins deux évaluations de sécurité indépendantes par an.
Dans le même temps, le PDG de Meta, Zuckerberg, et le PDG de NVIDIA, Huang, entre autres, s'opposent à cette réglementation, estimant qu'elle imposerait un fardeau excessif aux développeurs émergents et créerait une « capture réglementaire ».
Des défis de coordination sectorielle et une pression sécuritaire coexistent. Altman admet que les deux premières voies nécessitent une coordination à grande échelle entre entreprises ou gouvernements, et qu'OpenAI ne peut actuellement "faire de concessions dans la compétition". OpenAI et son principal concurrent Anthropic accélèrent tous deux leur processus de introduction en bourse.
La pression interne en matière de sécurité ne peut non plus être ignorée. Selon des rapports, plusieurs incidents récents de sécurité liés à l'IA ont suscité une grande attention — les modèles d'OpenAI, d'Anthropic, de Google et de Meta ont tous connu des intrusions ou des tentatives de sabotage contre d'autres entreprises, voire leurs propres systèmes, même si les modèles « savent » qu'ils ne devraient pas prendre de telles mesures. OpenAI est actuellement en pleine réponse, travaillant à établir des mécanismes de sécurité solides avant la publication de son prochain modèle majeur.
La culture de sécurité au sein d’OpenAI est également remise en question par certains employés. Certains employés ont exprimé en privé des préoccupations concernant les engagements de l’entreprise en matière de sécurité, après le licenciement de trois employés spécialisés dans la recherche sur la sécurité, justifié par l’entreprise comme un « partage inapproprié d’informations avec des institutions externes ».
Au niveau industriel, OpenAI, Google et Anthropic collaborent à la création de l’Autorité de normalisation pour l’IA de pointe (Standards Authority for Frontier AI), dont le lancement est prévu à la fin de l’année ou au début de 2027. Cette institution soutiendra des évaluateurs indépendants intégrés au sein de chaque développeur d’IA, afin d’assurer la mise en œuvre des pratiques de sécurité et de normaliser les mécanismes de déclaration des incidents de sécurité. Toutefois, des divergences persistent quant à savoir si la nouvelle entité devrait effectuer elle-même les tests de sécurité et de capacité, ou les confier à des organismes externes.
Avertissement de risque et clause de non-responsabilité
Le marché comporte des risques ; les investissements doivent être effectués avec prudence. Ce document ne constitue pas un conseil en investissement personnel et ne tient pas compte des objectifs, de la situation financière ou des besoins spécifiques de chaque utilisateur. Les utilisateurs doivent évaluer si les opinions, points de vue ou conclusions présentés dans ce document sont adaptés à leur situation particulière. Les investissements basés sur ces informations sont à votre seule responsabilité.