LangChain встроила Jev в свой собственный агентный цикл и показала три задачи, которые они ей поручили. В демо LLM занимал около 5 секунд, чтобы определить, содержит ли текст PII, а Jev ответила мгновенно с точностью 98%. Таким образом, их кодирующие агенты могут спрашивать Jev, насколько сложна задача, и сохранять мощную модель для самых сложных случаев. Их промежуточное ПО в автономном режиме спрашивает Jev, является ли вызов инструмента рискованным, и блокирует его во время выполнения — проверку, которую она ранее отключила, потому что раньше она работала слишком медленно. Та же модель оценивает ответ агента по критериям в онлайн-тестах: правильно, соответствует эталону, обоснованно, ссылается на источник. Мой гид указывает на эту настройку в исследовательских источниках: шкала релевантности от 0 до 3 по 50 статьям и очередь на проверку вызовов с низкой уверенностью. Он также проверяет, какие полезные статьи фильтр тихо архивировал. Посмотрите сессию, затем скачайте стартовый шаблон и промпты ниже.