LangChain đã tích hợp Jev vào vòng lặp tác nhân của họ và hiển thị ba nhiệm vụ họ giao cho nó. Trong bản trình diễn, một mô hình LLM mất khoảng 5 giây để xác định xem một văn bản có chứa PII hay không, trong khi Jev trả lời ngay lập tức với độ chính xác 98%. Vì vậy, các tác nhân lập trình của họ có thể hỏi Jev mức độ khó của một nhiệm vụ và dành các mô hình mạnh mẽ hơn cho những nhiệm vụ khó hơn. Middleware chế độ tự động của họ hỏi Jev liệu một lời gọi công cụ có rủi ro hay không và chặn nó trong thời gian thực, một kiểm tra mà cô đã tắt vì trước đây nó quá chậm. Và cùng mô hình đó đánh giá câu trả lời của tác nhân theo tiêu chí trong các bài đánh giá trực tuyến: chính xác, phù hợp với tài liệu tham chiếu, có cơ sở, trích dẫn nguồn. Hướng dẫn của tôi chỉ ra thiết lập này tại các nguồn nghiên cứu, với thang điểm liên quan từ 0 đến 3 trên 50 bài báo và hàng đợi xem xét cho các lời gọi có độ tin cậy thấp. Nó cũng kiểm tra những bài báo hữu ích nào mà bộ lọc đã lặng lẽ lưu trữ. Xem phiên họp, sau đó lấy bộ khởi động và các prompt bên dưới