ChainCatcher rapporte que Jun Song, un professionnel de l'IA open source, a publié sur X qu'un organisme anonyme malveillant l'a contacté hier avec une demande d'apprentissage par renforcement, offrant une somme très élevée pour effectuer un post-entraînement sur des modèles open source en utilisant des données d'exploitation de vulnérabilités. Jun Song gère également une entreprise d'exportation de matériel de centre de données en Corée du Sud et pilote le projet 0xSupergemma. Il affirme que les données d'attaque dont dispose l'offreur sont d'une ampleur qu'il n'a jamais vues auparavant, au point qu'il croirait même si quelqu'un disait qu'il s'agit d'un jeu de données d'infiltration des autorités. À titre de comparaison, un projet de cybersécurité éthique auquel il participe utilise GLM-5.3 avec moins de 1 % de cette quantité de données, et ses performances dépassent déjà largement les modèles de pointe. Il a refusé cette demande et a déclaré que ce qui le préoccupe vraiment, c'est que quelqu'un d'autre finisse par accepter cette transaction.
Jun Song rejette la demande d'un groupe anonyme de hackers noirs visant à former un modèle d'IA avec des données d'exploitation
ChaincatcherPartager
Résumé
Jun Song, chercheur en intelligence artificielle open-source, a rejeté une demande liée à la CFT provenant d’un groupe anonyme de black hats lui offrant une forte rémunération pour entraîner un modèle avec des données d’exploitation, a-t-il annoncé sur X. Dirigeant une entreprise d’exportation de matériel en Corée du Sud et travaillant sur le projet 0xSupergemma, il a qualifié l’échelle des données d’attaque d’historique. Il a déclaré qu’il accepterait même ces données s’ils provenaient des forces de l’ordre. Un projet de type white-hat utilisant GLM-5.3, avec moins de 1 % des données, a déjà surpassé les meilleurs modèles. Il a averti que d’autres pourraient accepter cette offre, augmentant les risques pour les actifs à risque.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.