Messages
avatar

Les IA à longue portée résumant les conversations et l'historique des tâches pour continuer à traiter les demandes. ARCBench vérifie par des opérations réelles de outils si les interdictions restent présentes dans ces résumés. Il crée un historique sur la plateforme d'exécution « pi », puis soumet des demandes violant les règles après compression, et compare les résultats avec les cas non compressés. Il examine également si les règles sont maintenues, affaiblies ou supprimées dans le résumé. Par exemple, si une règle interdit d'envoyer des e-mails uniquement à l'intérieur de l'entreprise, toute tentative d'appeler un outil d'envoi à un destinataire externe est considérée comme une violation. Lors de l'évaluation sur 17 cas, la plupart des violations après compression ont conservé la règle elle-même. Cependant, des problèmes d'action se produisent également, comme traiter les demandes ultérieures comme autorisées. Il ne suffit pas de vérifier si la règle est simplement écrite dans le résumé ; il faut aussi s'assurer qu'aucune opération violant cette règle n'est effectuée.

Ce contenu est uniquement fourni à titre informatif et éducatif. Il peut inclure des analyses de tiers, du contenu sponsorisé ou du matériel promotionnel pour lequel le créateur peut recevoir une compensation. Rien dans ce fil d’actualité ne constitue un conseil en investissement ni une garantie de rendement. Vous êtes seul responsable de vos décisions d’investissement. Effectuez toujours vos propres recherches et faites preuve de prudence avant de trader. Nous ne garantissons pas l’exactitude des informations de tiers et ne sommes pas responsables des pertes éventuelles. Les performances passées ne préjugent pas des résultats futurs. Veuillez consulter les Conditions de la communauté et notre Déclaration de divulgation des risques pour plus de détails.

avatarPubliez votre réponse

Commentaire