ChainCatcher rapporte qu'OpenAI a confié à l'agence d'évaluation de la sécurité IA METR un examen de sécurité pour sa plus grande opération d'entraînement par apprentissage par renforcement à ce jour. Cet examen constitue une évaluation pilote pour une seule exécution, durant laquelle METR aura accès à des instantanés du modèle ainsi qu'aux enregistrements internes du processus d'entraînement. Selon The Defiant, les deux parties n'ont pas encore convenu d'une évaluation de surveillance à plus grande échelle, et le périmètre de cette évaluation reste à déterminer. METR, anciennement connu sous le nom d'ARC Evals, fournit depuis longtemps des évaluations indépendantes pré-déploiement aux laboratoires d'IA de pointe et a précédemment effectué des tests de red teaming sur le système interne de surveillance des dérives d'OpenAI.
OpenAI confie à METR la vérification de la plus grande formation d'apprentissage par renforcement
ChaincatcherPartager
OpenAI a fait appel à METR pour auditer sa plus grande session d'entraînement par apprentissage par renforcement, selon les données sur chaîne et ChainCatcher. METR examinera des instantanés du modèle et des journaux d'entraînement internes dans le cadre d'un pilote unique. The Defiant rapporte que les termes de surveillance plus larges restent non résolus. METR, anciennement ARC Evals, a déjà testé les systèmes internes d'OpenAI. Les altcoins à surveiller pourraient réagir aux développements en matière de sécurité de l'IA.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.