L’IA open source prend un chemin dangereux ; ces derniers jours, la Silicon Valley s’est livrée à de vifs débats sur les modèles à poids ouverts. Nvidia @nvidia a initié une lettre ouverte plaider pour que Washington ne limite pas les modèles à poids ouverts. Après un week-end, plus de 50 signataires ont rejoint la lettre, parmi lesquels OpenAI @OpenAI, Google et SpaceX ont ensuite adhéré. La seule entité qui n’a pas encore pris position est @AnthropicAI, car le PDG d’Anthropic affirme que l’IA open source emprunte une voie dangereuse. Dario Amodei @DarioAmodei déclare que lorsque vous contrôlez et déployez un modèle, vous pouvez surveiller constamment son utilisation ; même si, à un moment donné, il est mal utilisé, vous pouvez intervenir et modifier ce qu’il est disposé à faire. Mais une fois que le modèle est libéré de manière incontrôlée, vous perdez entièrement ce pouvoir, et tout dépend désormais de la chance. Il souligne que l’open source est bénéfique pour les petits développeurs qui nécessitent une itération rapide, mais que, aujourd’hui, les géants ayant investi des dizaines de millions, voire des centaines de millions de dollars pour entraîner des modèles de grande taille, ne devraient pas libérer leurs produits finaux de manière incontrôlée.