Les informations de DeepTide TechFlow indiquent que le 14 juin, selon le Wall Street Journal, les restrictions d'exportation et d'accès imposées par le gouvernement américain sur les modèles Fable 5 / Mythos 5 d'Anthropic sont en partie dues à des recherches en cybersécurité menées par Amazon et à des échanges entre Andy Jassy, PDG d'AWS, et la Maison-Blanche. Il a été rapporté que les recherches soumises par Amazon ont révélé, à travers une série de tests de prompts, que les chercheurs pouvaient induire Fable 5 à produire des informations sensibles susceptibles d'être utilisées pour des cyberattaques, suscitant des préoccupations sécuritaires. Par la suite, Andy Jassy a porté ces découvertes à l'attention des autorités américaines, incitant la Maison-Blanche à adopter des mesures restrictives supplémentaires, notamment l'interdiction d'accès au modèle pour les utilisateurs étrangers. Anthropic nie toutefois que le gouvernement ait qualifié ce problème de « jailbreak », affirmant que des vulnérabilités similaires pourraient également se produire dans d'autres modèles publics, y compris GPT 5.5. Certains chercheurs en sécurité soutiennent également cette position, estimant que le problème relève davantage d'un « risque d'injection de prompt » que d'une rupture majeure du modèle. Selon Kate Colleen, ancien fonctionnaire du Département du Commerce américain, la position politique antérieure d'Anthropic a également pu influencer cette décision, car l'entreprise diffère de la Maison-Blanche sur les limites de la sécurité de l'intelligence artificielle, notamment en refusant d'utiliser ses modèles à des fins de surveillance de masse ou de systèmes d'armes autonomes mortelles. Bien que les deux parties aient temporairement apaisé leurs différends et élargi leur coopération plus tôt cette année,
Amazon supposément en faveur de restrictions sur le modèle Anthropic en raison de préoccupations sécuritaires
TechFlowPartager
Résumé
Les actifs à risque ont fait l’objet d’un nouveau contrôle après que Amazon aurait influencé les restrictions américaines sur les modèles Fable 5 / Mythos 5 d’Anthropic, invoquant des préoccupations en matière de cybersécurité. Les recherches d’Amazon ont révélé que le modèle pouvait être incité à produire des données exploitables pour des cyberattaques, entraînant des interdictions d’accès pour les entités étrangères. Anthropic a nié qu’il s’agisse d’une violation, soulignant des failles similaires dans GPT 5.5. Certains experts ont qualifié cela d’un risque d’injection de prompt. Les protocoles CFT pourraient désormais être étendus à l’accès aux modèles d’IA. L’ancienne responsable du ministère du Commerce américain Kate Kroll a déclaré que les désaccords passés d’Anthropic avec la Maison-Blanche auraient pu jouer un rôle dans cette décision.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.