Un chercheur ayant formé des modèles pendant trois ans chez Anthropic a démissionné et a publié ses raisons dans un endroit visible de tous 🧐 Jacob Coxon, 27 ans, a travaillé d’abord chez OpenAI, puis chez Anthropic sur la phase de pré-entraînement. En partant, il l’a résumé en une seule phrase : les laboratoires sont en course pour créer une IA auto-améliorante, et ils le font au détriment de notre vie à tous. La partie qui a suscité le plus d’attention 👇 Evan Hubinger, responsable de la science de l’alignement chez Anthropic, est venu confirmer cette déclaration. Sa propre estimation : il y a plus de 10 % de chances que l’IA élimine chacun d’entre nous au cours des dix prochaines années. Il affirme que les modèles actuels présentent un risque faible, mais ce qui le terrifie, c’est l’auto-amélioration récursive. Il est anormal qu’un membre de l’équipe sécurité d’une entreprise affirme cela publiquement 😳 Le débat a immédiatement dérivé vers la politique 🏛️ Le projet de loi Ban Artificial Superintelligence Act, annoncé le 3 septembre par Bernie Sanders et Greg Casar, était déjà sur la table : interdiction permanente des superintelligences, création d’une nouvelle agence fédérale pour établir des règles de sécurité, suspension temporaire des modèles avancés jusqu’à l’adoption de ces règles, peines d’emprisonnement jusqu’à 20 ans en cas de violation, et dissolution obligatoire des entreprises concernées. L’autre camp ne reste pas inactif 🤨 Le timing de la démission, le fait que les premières citations proviennent largement d’organismes politiques financés par le même fonds, et la coïncidence exacte avec le projet de loi ont convaincu certains que « ce n’est pas organique, mais une opération de capture réglementaire ». Autrement dit, deux récits coexistent : soit un avertissement sincère venu du cœur du secteur, soit une opération visant à écrire des règles pour étouffer la concurrence. Il est aussi possible que les deux soient vraies en même temps. En attendant, Anthropic a publié aujourd’hui son rapport d’analyse des menaces le plus détaillé à ce jour. Il décrit comment les modèles sont utilisés pour des cyberattaques, des opérations d’influence et des tentatives de surveillance. Un document précieux pour comprendre sur quel terrain se déroule ce débat 📄 Lequel trouvez-vous le plus convaincant : un avertissement sincère ou un lobbying soigneusement orchestré ? 🤔 Ce contenu est fourni à titre informatif uniquement et ne constitue ni un conseil en investissement ni une recommandation financière.