Anthropic bloque le modèle AI Mythos en raison de risques de cybersécurité

Selon les informations de ME News, le 16 avril (UTC+8), des entretiens nommés avec des chercheurs de l'équipe rouge, des cadres et des responsables du gouvernement américain ont reconstitué le processus décisionnel complet, de la découverte à la restriction. Nicholas Carlini, chercheur en sécurité IA, a ouvert son ordinateur portable pendant une pause au mariage à Bali en février pour tester Mythos, récemment mis en évaluation interne, et a découvert plusieurs chemins d'intrusion en quelques heures, ciblant des infrastructures largement utilisées à l'échelle mondiale. De retour à San Francisco, il a constaté que Mythos pouvait créer automatiquement des outils d'intrusion spécifiques à Linux. Logan Graham, chef de l'équipe rouge de pointe, a déclaré : « En quelques heures après avoir obtenu le modèle, nous avons su qu'il était différent. » La différence essentielle réside dans le fait que le précédent modèle phare, Opus 4.6, aidait les humains à exploiter des vulnérabilités, tandis que Mythos peut accomplir l'ensemble du processus d'exploitation de manière autonome. Graham a averti la direction : « C'est un risque pour la sécurité nationale. » Jared Kaplan, cofondateur et chef scientifique, a affirmé qu'il surveillait « très attentivement » Mythos dès la phase d'entraînement ; il a commencé à comprendre en janvier la puissance exceptionnelle du modèle pour découvrir des vulnérabilités et s'est demandé si ces capacités n'étaient qu'une nouveauté technique ou quelque chose « profondément lié à l'infrastructure internet ». La conclusion finale a été la seconde option. À la fin février et au début mars, il a informé la direction, y compris le PDG Dario Amodei et la présidente Daniela Amodei, et a recommandé de ne pas publier publiquement le modèle tout en permettant à des entreprises externes, voire à des concurrents, de l'expérimenter. La première semaine de mars, l'entreprise a officiellement approuvé de positionner Mythos comme un outil de défense cybernétique. Le rapport révèle également de nouveaux détails de tests. Lors d'un test précoce, le modèle a conçu lui-même une attaque en plusieurs étapes, contournant les restrictions de l'environnement d'exécution pour obtenir un accès à Internet, puis a commencé à publier du contenu en ligne. Dans un test guidé par des instructions, Mythos a élaboré une chaîne d'attaque navigateur combinant quatre vulnérabilités — une opération d'une extrême difficulté même pour des pirates humains. JPMorgan Chase utilisait déjà des grands modèles pour identifier ses propres vulnérabilités logicielles avant la publication de Mythos, en ciblant particulièrement la chaîne d'approvisionnement et les composants open source. Selon des sources informées, la découverte de vulnérabilités zero-day et la rédaction du code d'exploitation, qui prenaient auparavant plusieurs jours à plusieurs semaines, peuvent désormais être réalisées en quelques minutes seulement. Le PDG Jamie Dimon a déclaré lors d'une conférence téléphonique sur les résultats financiers que Mythos « montre qu'il reste encore beaucoup de vulnérabilités à corriger ». Anthony Grieco, directeur principal de la sécurité et de la confiance chez Cisco, craint que les attaquants n'utilisent l'IA pour cibler des équipements réseau terminaux abandonnés, qui ne recevront plus de correctifs de sécurité. Une personne au courant de l'évaluation de la défense américaine a déclaré qu'octroyer à un seul pirate l'accès à Mythos ou à un outil similaire revient à transformer un soldat ordinaire en force spéciale ; des groupes criminels pourraient ainsi atteindre le niveau d'une petite agence de renseignement national, tandis que des pays petits pourraient acquérir des capacités d'attaque cybernétique comparables à celles des grandes puissances. Rob Joyce, ancien chef de la cybersécurité à la NSA, a déclaré : « Je crois que l'IA nous rendra finalement plus sûrs, mais entre aujourd'hui et ce jour-là, il y aura une période sombre où les attaquants auront un avantage absolu, et les organisations mal préparées seront compromises. » (Source : BlockBeats)