Les harnais peuvent-ils débloquer des systèmes d'IA plus puissants ? Des chercheurs ont développé un nouvel harnais permettant aux modèles existants de gérer des flux de travail plus longs et plus complexes. Le Recursive Language Model (RLM) conserve les fichiers et jeux de données volumineux en dehors du contexte principal du modèle. Le modèle utilise du code pour sélectionner les éléments pertinents, les envoyer via des requêtes séparées à des modèles distincts, puis combiner les résultats. Cela diffère des sessions classiques, où les fichiers, les sorties d'outils et les résultats s'accumulent dans un seul contexte. À mesure que le contexte s'agrandit, les modèles peuvent commencer à perdre le fil des détails essentiels. Pour tester si cette structure améliore également l'apprentissage, les chercheurs ont utilisé l'apprentissage par renforcement pour entraîner Qwen3-30B à l'intérieur d'un harnais RLM fixe, en utilisant uniquement des tâches courtes, puis ont évalué ce dernier sur des tâches 8 à 32 fois plus longues. Lors des évaluations plus longues, le modèle entraîné avec RLM a montré une amélioration significative, tandis que le même modèle entraîné sans harnais n'a généralement montré que peu de progrès. Dans des expériences séparées, il a également appliqué les mêmes stratégies dans de nouveaux domaines nécessitant des étapes sous-jacentes similaires.
MintyPartager

Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.