Alors que les débats sur la sécurité de l'IA s'intensifient, des médias étrangers rapportent que Geoffrey Hinton, Fei-Fei Li et Andrew Ng ont récemment abordé la question des modèles ouverts lors de la conférence Ai4 à Las Vegas. Bien que leurs positions ne soient pas entièrement alignées, ils s'opposent tous à ce que le rythme du développement de l'IA soit dominé par un petit nombre de grandes entreprises technologiques.
S'opposer à la concentration des accès entre les mains de quelques entreprises
L'article indique que les trois chercheurs s'inquiètent ensemble du fait que, si l'IA est contrôlée par un petit nombre d'entreprises, l'espace d'innovation pourrait être réduit. Andrew Ng affirme explicitement qu'il ne souhaite pas voir des « gardiens » dans le domaine de l'IA, car cela limiterait la manière dont les développeurs, les entreprises et le public peuvent accéder à l'IA.
Il estime que les grandes entreprises protègent naturellement leurs avantages et pourraient également influencer la formation des règles du secteur. Le résultat pourrait être que seules les entreprises disposant des fonds les plus importants et de la puissance de calcul la plus élevée pourront continuer à développer des systèmes de pointe. La direction proposée par Andrew Ng consiste à maintenir autant que possible la coexistence de plusieurs fournisseurs de modèles, afin que les modèles et les entreprises concourent sur le marché, plutôt que de laisser quelques plateformes dominantes s’imposer.
Hinton distingue le code source ouvert des poids ouverts
Cependant, Hinton ne considère pas les « logiciels open source » et les « modèles à poids ouverts » comme identiques. Selon lui, les logiciels open source rendent le code public, permettant à l'extérieur de vérifier les vulnérabilités et de proposer des modifications ; les poids ouverts consistent à fournir directement les paramètres du modèle entraîné à l'extérieur, ce qui réduit considérablement la barrière à l'entrée pour le développement secondaire.
Il a déclaré qu'il s'était autrefois opposé à l'ouverture des poids, car cela permettrait à certaines personnes de transformer des modèles de base en outils à faible coût pour des utilisations telles que des attaques informatiques. Toutefois, il a reconnu que ce débat était désormais difficile à inverser dans la pratique. Avec l'apparition continue de modèles à poids ouverts, le seuil constitué par le coût d'entraînement a été nettement affaibli.
Malgré cela, Hinton n'a pas prôné l'arrêt du développement de l'IA. L'article indique qu'il est toujours convaincu que l'IA augmentera la productivité et améliorera des domaines tels que l'éducation et la santé, mais qu'il ne faut pas pour autant ignorer les risques potentiels. Il a également déclaré qu'il n'est pas juste de classer toutes les personnes inquiètes des risques de l'IA comme des « createurs de panique ».
Li Fei-Fei prône une ouverture hiérarchisée
Contrairement à Andrew Ng, qui met l'accent sur la concurrence ouverte, et à Geoffrey Hinton, qui souligne les risques pour la sécurité, Li Fei-Fei s'oppose à la réduction du débat à deux choix extrêmes : « entièrement ouvert » ou « entièrement fermé ». Elle estime que les systèmes logiciels et de recherche complexes comportent déjà différents niveaux, et que diverses étapes peuvent adopter des degrés variés d'ouverture.
Elle a pris la physique nucléaire comme exemple, soulignant que les articles académiques peuvent être publiés publiquement, tandis que les matériaux d'uranium sont strictement réglementés, et que les expériences se situent entre les deux. Elle en conclut que l'IA peut adopter une approche similaire : maintenir une certaine ouverture au niveau de la découverte scientifique, de l'éducation et de la coopération internationale, tout en permettant aux entreprises de conserver des systèmes et des modèles commerciaux propriétaires.
L'article mentionne également que Li Fei-Fei cite le Projet Génome Humain pour illustrer qu'une plateforme de connaissances fondamentales issue d'une collaboration entre institutions publiques et secteur privé peut à la fois soutenir l'avancement de la recherche scientifique, la rentabilité des entreprises et les applications sociales. Elle estime que les infrastructures d'IA devraient également évoluer dans cette direction, plutôt que de s'enliser dans des débats binaires.
Les trois personnes reconnaissent la nécessité d'une réglementation.
Bien que les trois personnes aient des jugements différents sur les limites des modèles ouverts, leurs positions sur les questions de régulation sont proches. L'article affirme qu'ils sont tous d'avis que l'IA nécessite encore un certain niveau de contraintes réglementaires pour évoluer dans une direction plus favorable à la société.
Hinton a déclaré que le développement de l'IA ne peut pas être laissé entièrement entre les mains des entrepreneurs. Le débat autour des modèles ouverts ne concerne plus seulement les choix technologiques, mais aussi la répartition du pouvoir dans l'industrie, la compétition internationale et la direction de la gouvernance de la sécurité de l'IA.