Tên này cũng xuất hiện trong các bài viết khác, tò mò không biết là cái gì đây https://t.co/7qiEKzo5Yd Jev AI đã thay đổi nhận thức về AI agent Julian Goldie SEO #AI_tóm_tắt #Claude #Codex Jev thay đổi cách ra quyết định và tự động hóa của AI agent 🔳 Đặc điểm của Jev Jev là mô hình AI kiểu System 1, chuyên về các quyết định như lựa chọn, đánh giá và phán xét, chứ không phải tạo văn bản, nhằm xử lý lượng lớn quyết định với tốc độ nhanh và chi phí thấp. 🔳 Phân công vai trò với các mô hình truyền thống Trong khi các mô hình lớn đảm nhiệm các nhiệm vụ như điều tra, lập kế hoạch và tạo văn bản, Jev phụ trách các quyết định ngắn gọn như chọn công cụ tiếp theo, xác định có nên tiếp tục xử lý hay không, hay liệu có cần xác nhận từ con người hay không. tốc độ và chi phí Trong video, số liệu cho thấy Jev nhanh hơn 20 đến 200 lần và rẻ hơn 40 đến 400 lần so với các mô hình AI thông thường, giúp giảm nhu cầu giao các quyết định nhỏ nhưng số lượng lớn cho các mô hình hiệu năng cao. 🔳 Ba phương pháp phán xét Jev cho phép sử dụng các hình thức: Choice (lựa chọn từ nhiều ứng cử viên), Score (đánh giá theo tiêu chí đã định), và Yes/No (phán xét xác suất), đồng thời thu được mức độ tin cậy cho từng quyết định. 🔳 Tự động hóa dựa trên mức độ tin cậy Có thể thiết lập quy tắc: nếu mức độ tin cậy cao thì tự động xử lý, nếu thấp thì chuyển cho con người xác nhận. Điều này giúp tích hợp cả khả năng sai sót lẫn tình huống AI không tự tin vào quyết định của mình vào quy trình vận hành. 🔳 Xử lý song song nhiều quyết định Có thể gửi nhiều câu hỏi cùng một lúc về cùng một tình huống để đồng thời phán xét các yếu tố như bước xử lý tiếp theo, mức độ khẩn cấp, hay nhu cầu xác nhận, từ đó giảm thời gian chờ và chi phí trong AI agent. 🔳 Ví dụ phân loại bài nghiên cứu Sau khi nhà phát triển tóm tắt bài nghiên cứu AI, họ cung cấp tiêu đề, bản tóm tắt và 24 chủ đề ứng cử cho Jev để phân loại. Trong video, tổng chi phí xử lý 18 bài là 8 cent, thời gian trung vị mỗi bài là 256 millisecond. 🔳 Ví dụ sắp xếp email Khi phân loại 500 email bằng Jev, hệ thống phân loại thành các lựa chọn như trả lời, điều tra thêm, chờ đợi, hoặc chuyển cho con người xác nhận, hoàn tất trong vài giây với tổng chi phí 3,5 cent. 🔳 Ví dụ đánh giá lead Khi đánh giá 700 lead và tin nhắn cá nhân, Jev dự đoán phản hồi và mức độ tin cậy trong 40 giây, phát hiện cả các trường hợp lead và tin nhắn không khớp nhau, với chi phí 9 cent. ListItemIcon Ứng dụng trong thao tác trình duyệt Trong trình duyệt agent, mỗi khi trang thay đổi, Jev sẽ được yêu cầu chọn thao tác tiếp theo từ danh sách các lựa chọn khả thi, trong khi chỉ nhập văn bản được giao cho mô hình tạo văn bản khác. Video cho thấy số lệnh trình duyệt trung vị giảm từ 1092 xuống còn 101, thời gian hoàn thành tác vụ giảm tới 25%. ListItemIcon Lưu ý khi tìm vé máy bay Ví dụ được giới thiệu cho thấy Jev phát hiện vé máy bay trong 7 giây với chi phí dưới 0,5 cent, nhưng chưa thực hiện đặt vé; thời gian 7 giây này được tính từ sau khi tải trang đầu tiên. ListItemIcon Tối ưu liên kết nội bộ Trong ví dụ xây dựng liên kết nội bộ cho trang web gồm 586 trang, Jev đặt 584 liên kết trong 45,1 giây, không đặt liên kết cho 139 trang không có đích phù hợp, với chi phí 21 cent. ListItemIcon Định tuyến mô hình Giới thiệu cách sử dụng Jev để phân phối yêu cầu giữa mô hình giá rẻ, nhanh và mô hình hiệu năng cao, đắt tiền. Trong video, ví dụ tích hợp với LangChain giải thích cách chọn mô hình rẻ nhất trong phạm vi có thể xử lý. ListItemIcon Xác minh an toàn khi sử dụng công cụ Có thể dùng Jev để đánh giá rủi ro trước khi AI agent thực thi công cụ: nếu an toàn thì cho phép thực thi; nếu nguy hiểm thì dừng hoặc chuyển cho con người xác nhận. ListItemIcon Giảm ngữ cảnh Jev đánh giá mức độ quan trọng của các lần gọi công cụ trong lịch sử agent và loại bỏ thông tin không cần thiết. Một ví dụ cho thấy ngữ cảnh khoảng 1 triệu token được giảm xuống còn khoảng 86.000 token trong khoảng 1 giây. ListItemIcon Lo ngại về giảm ngữ cảnh Cũng có ý kiến phản biện rằng việc đánh giá và xóa từng mục lịch sử có thể làm mất lý do hoặc bối cảnh các quyết định trước đó trong tác vụ dài hạn; do đó cần xem xét các phương án khác như chỉ dùng để chọn nội dung tóm tắt thay vì xóa bỏ. ListItemIcon Hạn chế của Jev Jev không phải là mô hình tạo văn bản, mã hoặc kết quả điều tra; nó chủ yếu chuyên về việc ra quyết định. Mức độ tin cậy cao không đảm bảo tính chính xác; do đó, kết quả xử lý thực tế như lưu file cần được xác minh riêng biệt. ListItemIcon Tầm quan trọng của thiết kế đầu vào Chỉ dùng tên trường câu hỏi là không đủ để truyền đạt ý định phán xét; cần mô tả cụ thể nội dung câu hỏi và các lựa chọn. Nếu không cung cấp đủ bối cảnh hoặc thông tin, chất lượng phán xét sẽ giảm. ListItemIcon Cơ chế giá cả Video giải thích rằng chi phí khoảng 4 cent cho mỗi 1 triệu token đầu vào, hiện tại không tính phí cho đầu ra. Nếu thực hiện 10.000 lần phán xét sử dụng 1000 token mỗi lần, chi phí ước tính khoảng 42 cent. ListItemIcon Điều quan trọng là chi phí hoàn thành tác vụ🔳 Điều quan trọng là chi phí hoàn thành nhiệm vụ Ngay cả khi quyết định riêng lẻ có chi phí thấp, nếu việc định tuyến sai khiến tác nhân thực hiện các xử lý không cần thiết, tổng chi phí sẽ tăng lên; do đó, cần xem xét tổng chi phí cho đến khi hoàn thành nhiệm vụ, chứ không chỉ chi phí đơn vị cho mỗi quyết định. 🔳 Sự thay đổi cấu trúc của tác nhân AI Trong video, trước đây cùng một mô hình đảm nhiệm cả việc tạo văn bản và ra quyết định, nhưng hiện nay đã chuyển sang cấu trúc phân công lao động: mô hình quy mô lớn phụ trách điều tra và tạo nội dung, Jev phụ trách lựa chọn, đánh giá, phê duyệt và chuyển cấp, còn mã thực hiện các xử lý cụ thể. 🔳 Ứng dụng phù hợp hiện tại Tính năng tích hợp vẫn đang ở giai đoạn thí nghiệm; hiện tại, việc triển khai thực tế nên bắt đầu từ các quyết định đơn giản và rõ ràng mà con người lặp lại thường xuyên, như phân loại email, đánh giá lead, định tuyến và gắn thẻ. 🔳 Kết luận của video Việc tách biệt giữa tạo văn bản và ra quyết định, đồng thời giao các quyết định nhỏ lặp đi lặp lại cho các mô hình nhanh và chi phí thấp như Jev, sẽ cải thiện tốc độ, chi phí và phạm vi tự động hóa của toàn bộ tác nhân AI — đây là luận điểm chính của video.