Selon les nouvelles de ME, le 6 novembre (UTC+8), Reflection a publié un billet expliquant ses méthodes de formation et d'évaluation sécurisées pour son modèle de poids open source, Beam, et a lancé le programme de recherche sécurisée open source Project Iris. Beam a rejeté 89 % des demandes nocives dans les tâches de conversation des Iris Safety Evaluations, le taux le plus élevé parmi les modèles de poids open source testés, tout en respectant 82 % des demandes sans danger liées à la sécurité ; après que le modèle enseignant d'alignement sécurisé ait augmenté de 100 milliards à 501 milliards de paramètres, le rejet excessif a diminué de 48,7 %.
🔗 Lire l'article original
via AIHOT · https://aihot.news/items/mpv0jfejdzdm2336jgtyj9tde (source : AiHot)
Détails de la réflexion : Méthodes sûres de formation et d'évaluation pour le modèle Beam open-source
KuCoinFlashPartager
Résumé
Actualités on-chain de Reflection révèlent de nouvelles méthodes de sécurité pour son modèle open-source Beam, annoncé le 6 novembre (UTC+8). Le blog détaille un taux de rejet de 89 % pour les demandes nuisibles dans les évaluations de sécurité Iris, avec une conformité de 82 % pour les demandes de sécurité inoffensives. Un risque de violation de sécurité a été atténué, le taux de rejet excessif ayant diminué de 48,7 % après le déploiement du modèle enseignant aligné sur la sécurité à 501 milliards de paramètres. Le projet Iris prend désormais en charge la recherche en sécurité open-source.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.