Le PDG de Microsoft, Satya Nadella, a reconnu sur le podcast 2VC qu'il avait autrefois cru que l'amélioration des capacités de l'IA entraînerait naturellement des progrès en matière d'alignement avec les valeurs humaines, mais qu'il avait depuis modifié cette opinion. Il a souligné que, bien que la taille des modèles continue d'augmenter, les problèmes d'alignement deviennent de plus en plus complexes, et que la maîtrise ne progresse pas au même rythme que les capacités. Il propose de considérer l'IA comme une menace interne à la sécurité, nécessitant la mise en place de trois niveaux de protection : une conception système fiable, une supervision humaine et des procédures opérationnelles, tout en appelant à l'établissement de normes industrielles. Cette position résonne avec les avertissements de dirigeants du secteur tels qu'Altman et Amodei, soulignant que la gouvernance de l'IA passe désormais d'un discours à des contraintes techniques et institutionnelles concrètes.Auteur et source de l'article : AIBase
Le PDG de Microsoft, Satya Nadella, a inversé publiquement son jugement sur le problème d'alignement de l'IA. Dans un nouvel épisode du podcast 20VC, l'hôte Harry Stebbings lui a demandé quelles étaient ses idées qui avaient changé au cours de la dernière année ; Nadella a admis qu'il croyait auparavant que plus l'IA serait puissante, plus il serait naturel de faire en sorte que son comportement soit aligné sur les valeurs et les objectifs humains.
De "résolution naturelle" à "plus délicat"
La réalité n'a pas suivi le scénario. Nadella admet que l'expansion continue de la taille des modèles et l'amélioration constante de leurs capacités correspondaient bien à ses attentes ; mais l'« alignement » — c'est-à-dire faire en sorte que le comportement de l'IA reste conforme aux normes — n'a pas encore été résolu. Il déclare : « Je pensais autrefois que le problème d'alignement se résoudrait naturellement. Je ne le pense plus. L'alignement pourrait être un problème plus complexe et de nature différente. »
L'alignement concerne le fait que le comportement de l'IA écoute ou non les humains et respecte ou non les objectifs humains. Lorsque les modèles deviennent si grands que même leurs concepteurs peinent à prédire entièrement leurs actions, la croissance des capacités se désynchronise de celle de la contrôlabilité, devenant une nouvelle réalité que Nadella doit affronter.
Se protéger contre l’IA en la traitant comme un traître interne
Ces avertissements avaient déjà des signes précurseurs. Le 10 octobre, Nadella a publié un message sur la plateforme X pour alerter sur les risques liés à l'IA et prôner un renforcement des contrôles de sécurité externes. Sa recommandation centrale était directe : les entreprises doivent considérer les modèles d'IA comme une "menace interne à la sécurité" et supposer, lors de la mise en place de protections, que le modèle a déjà été compromis.
Il a écrit dans son message qu'il fallait appliquer trois lignes de défense aux modèles dont le comportement ne peut pas être entièrement prédit : une conception de système fiable et déterministe, une supervision humaine et des procédures opérationnelles perfectionnées ; là où les normes sont insuffisantes, il faut rapidement établir des règles de l'industrie.
Nadella n'est pas un cas isolé. Altman d'OpenAI et Amodei d'Anthropic ont tous deux mis en garde contre les menaces potentielles de l'IA ; en juillet de cette année, plus de 1 000 professionnels ont signé une lettre ouverte avertissant que la vitesse à laquelle les capacités de l'IA progressent pourraient déjà dépasser la capacité humaine à la comprendre ou à la contrôler. Lorsque les meilleurs traders réduisent collectivement leur confiance dans l'idée que « plus puissant équivaut à plus sûr », la gouvernance de l'IA devra probablement passer des slogans à des solutions techniques et institutionnelles plus concrètes.