Anthropic a payé 1,5 milliard de dollars en règlement l'année dernière pour des livres contrefaits, et maintenant elle s'emploie à enseigner à toute l'industrie de l'IA ce que signifie « voler des connaissances ». Je viens de voir qu'Anthropic a annoncé de nouveaux progrès dans sa technologie anti-distillation, affirmant avoir considérablement réduit l'efficacité des attaques de distillation contre Claude au cours des derniers mois. Précédemment, elle avait déjà nommé publiquement des entreprises chinoises d'IA telles que DeepSeek, Moonshot AI, Alibaba et Zhipu, les accusant d'utiliser massivement Claude pour entraîner leurs propres modèles. Aujourd'hui, Anthropic ne se contente plus d'identifier et de bloquer le trafic suspect, mais cherche également à limiter à la niveau du modèle l'extraction des processus d'inférence. Elle avait même, par le passé, discrètement réduit la qualité des réponses pour certaines requêtes afin de prévenir la distillation, avant de modifier cette pratique après avoir été critiquée. Lors de l'entraînement des grands modèles, les articles, livres et codes présents sur Internet étaient utilisés comme données d'apprentissage. Les entreprises d'IA considéraient que l'apprentissage des machines à partir des connaissances humaines était techniquement et juridiquement justifié. Or aujourd'hui, lorsque d'autres modèles apprennent à partir de ses propres réponses, cela devient soudainement une menace sécuritaire qu'il faut combattre à tout prix. Anthropic a tout à fait le droit de protéger ses intérêts commerciaux. Ce qui me dérange, c'est qu'elle a tendance à présenter la concurrence commerciale comme un enjeu de sécurité de l'IA, dans le but de faire accepter par le public des règles établies par les grandes entreprises. Et je pense que la façon dont Anthropic mène une campagne aussi bruyante contre la distillation révèle un fait : la barrière commerciale des entreprises leader en modèles d'IA est probablement bien plus fragile qu'elles ne veulent bien l'admettre. Si une intelligence de pointe peut être copiée à faible coût, alors les investissements colossaux en entraînement et le pouvoir de fixation des prix des modèles propriétaires seront difficiles à maintenir indéfiniment. Un secteur qui a grandi en absorbant les connaissances de toute l'humanité voit aujourd'hui ses plus grandes entreprises chercher à empêcher la diffusion continue des connaissances. C'est là un phénomène qui mérite toute notre vigilance.
