OpenRouter запускає інструмент Subagent для делегування завдань

iconKuCoinFlash
Поділитися
AI summary iconКороткий зміст
ME AI повідомлення: за даними Beating Monitoring, OpenRouter запустив серверний інструмент проксі `openrouter:subagent` у тестовому режимі, що дозволяє великим моделям розподіляти окремі підзавдання під час генерації контенту на менші, дешевші та швидші кандидатські моделі. Коли основна модель зустрічає самодостатнє завдання, яке не вимагає повної потужності (наприклад, резюмування документів, витягування структурованих даних, створення шаблонів та форматування тексту), вона може викликати інструмент проксі, надаючи назву завдання (task_name) та опис завдання (task_description). Підзавдання виконуються робочою моделлю, а результат (outcome) повертається основній моделі для подальшої інтеграції. Робочою моделлю може бути будь-яка модель, підтримувана OpenRouter, яка визначається не лише параметром `parameters.model` у інструменті, але й може безпосередньо успадковувати основну модель, якщо параметр не встановлено. Для підвищення здатності до виконання робоча модель може мати незалежні серверні інструменти OpenRouter (наприклад, пошук у мережі `openrouter:web_search` або збір даних з веб-сторінок `openrouter:web_fetch`), що дозволяє їй виконувати багатокрокове міркування та отримувати дані в ізольованому середовищі до генерації кінцевого тексту. Оскільки робоча модель виконується на сервері, вона не підтримує користувацькі функції, що вимагають клієнтських виконавців. Оскільки робоча модель не має доступу до контексту сесії основної моделі і не може ділитися пам’яттю між різними завданнями, основна модель повинна надавати повну інформацію про контекст та вимоги до формату виводу у описі завдання. Щоб запобігти нескінченному рекурсивному виклику моделей та неконтрольованому зростанню витрат, OpenRouter впровадив двохрівневий механізм захисту: заборона самопосилань у визначенні та обмеження глибини вкладеності за допомогою заголовків запиту, а також примусове видалення інструментів проксі під час виклику підзавдань. Крім того, загальна кількість виконаних завдань за один запит API обмежена жорстким лімітом. (Джерело: BlockBeats)
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.