Google DeepMind ra mắt Gemini Decision 1 cho việc ra quyết định dựa trên tác nhân

Google DeepMind ra mắt Gemini Decision 1 và API Decisions chuyên dụng, nhằm tách rời các phán đoán đóng kín trong hệ thống Agent—như “gọi công cụ nào”, “có tuân thủ chính sách không”, “giao cho mô hình loại nào”, “mức độ rủi ro cao bao nhiêu”—ra khỏi mô hình sinh tổng quát. Nhà phát triển có thể gửi cùng lúc tối đa 256.000 Token văn bản, hình ảnh, âm thanh, video hoặc PDF, và đặt tối đa 1.000 câu hỏi độc lập liên quan đến cùng một tài liệu; mô hình không sinh giải thích từng từ, mà trực tiếp đưa ra xác suất và độ tin cậy cho các lựa chọn trong một lần tính toán thuận. Google công bố độ trễ đầu cuối điển hình từ 150 đến 250 miligiây, với giá 0,10 đô la Mỹ mỗi triệu Token đầu vào, đầu ra miễn phí. Tuy nhiên, các dữ liệu độ trễ này chủ yếu đến từ các bài kiểm tra có dưới 16.000 Token và tối đa 100 câu hỏi, chưa chứng minh được rằng tốc độ sẽ giữ nguyên khi sử dụng đầy đủ ngữ cảnh và 1.000 câu hỏi; các đánh giá độc lập cũng xếp nó ở vị trí thứ 9 trong số 18 mô hình quyết định, cho thấy khả năng hiệu chỉnh và đa phương tiện của nó nổi bật, nhưng không phải là nhà vô địch tổng thể cho mọi nhiệm vụ quyết định.

Tác giả bài viết, nguồn: Google DeepMind

Hiện nay, nhiều Agent dù chỉ cần trả lời “có hoặc không” cũng vẫn gọi đến mô hình sinh đầy đủ. Mô hình cần đọc ngữ cảnh, suy luận và xuất ra từng token văn bản, sau đó ứng dụng phải phân tích để trích xuất một giá trị boolean hoặc danh mục từ câu trả lời.

Cách này linh hoạt nhưng rất lãng phí trong các luồng công việc tần suất cao. Một nhân viên hỗ trợ khách hàng có thể cần lần lượt xác định ý định của người dùng, rủi ro tài khoản, chính sách áp dụng, quyền truy cập công cụ, hàng đợi nâng cấp và mô hình phản hồi; mỗi bước đều gọi đến mô hình sinh tạo, gây tích lũy độ trễ, chi phí và lỗi phân tích định dạng.

Gemini Decision 1 sử dụng cách tiếp cận khác biệt: các nhà phát triển trước tiên xác định một số lượng hạn chế các câu trả lời ứng cử, mô hình chỉ chịu trách nhiệm đánh giá các lựa chọn này. Nó không phải là mô hình trò chuyện, cũng không soạn thảo giải thích, mà gần giống như một lớp phân loại, sắp xếp và phán quyết chiến lược tổng quát có khả năng hiểu ngữ cảnh dài và thông tin đa phương thức.

Google cung cấp ba dạng câu hỏi:

• Phán đoán “Có/Không”, trả về xác suất điều kiện được thỏa mãn;
• Chọn từ 2 đến 255 tùy chọn và trả về xác suất chuẩn hóa của từng tùy chọn;
• Đánh giá theo thang đo đã định trước, đồng thời trả về xác suất của từng cấp độ và điểm đã được trọng số.

Mỗi kết quả đều đi kèm với độ tin cậy từ 0 đến 1. Ứng dụng có thể thiết lập ngưỡng: tự động thực hiện khi độ tin cậy cao, chuyển sang mô hình mạnh hơn hoặc kiểm tra thủ công khi độ tin cậy chưa đủ.blog.google

Một yêu cầu có thể chứa tối đa 256.000 Token và đặt 1.000 câu hỏi độc lập cho cùng một đầu vào.

Ví dụ, công ty bảo hiểm có thể đồng thời gửi một biểu mẫu khiếu nại được quét, hình ảnh thiệt hại tại hiện trường, bản ghi cuộc gọi với khách hàng và thông tin tài khoản, sau đó yêu cầu mô hình đánh giá liệu tài liệu có đầy đủ không, thuộc loại sự cố nào, có dấu hiệu gian lận không, nên phân bổ cho nhóm nào, và mức độ khẩn cấp cần xử lý là bao nhiêu.

Tài liệu chia sẻ chỉ bị tính phí một lần, mỗi câu hỏi chỉ thêm token lệnh và lựa chọn của riêng nó. Do đó, khi hàng chục kiểm tra đều cần đọc cùng một tệp dài, nó sẽ tiết kiệm hơn nhiều so với việc gửi lặp lại tệp đó hàng chục lần. Giá chính thức là 0,10 USD mỗi triệu token đầu vào, không tính phí cho token đầu ra, cũng không có phí riêng biệt cho OCR hoặc chuyển đổi âm thanh thành văn bản.

Nhưng 1000 câu hỏi này phải độc lập với nhau. Mô hình sẽ không cho phép phán đoán thứ hai đọc kết quả của phán đoán đầu tiên. Nếu quy trình làm việc là “trước tiên xác định loại tài liệu, sau đó áp dụng quy tắc kiểm duyệt khác nhau tùy theo loại”, nhà phát triển vẫn cần kết nối hai bước này trong mã, hoặc gọi lại API. Khi cần tạo văn bản hướng dẫn, trích xuất bất kỳ trường nào hoặc soạn phản hồi, vẫn cần sử dụng mô hình sinh hoặc trích xuất thông tin.

Gemini Decision 1 bỏ qua việc giải mã từng token, thay vào đó đánh giá tất cả các lựa chọn trong một lần tính toán tiến. Google cho biết thời gian tính toán trung vị của mô hình là từ 50 đến 100 miligiây, và độ trễ đầu đến cuối sau khi bao gồm dịch vụ và mạng là khoảng 150 đến 250 miligiây.

Các bài kiểm tra chính thức cho thấy, với đầu vào đa mô hình không vượt quá 16.000 Token, việc tăng số lượng câu hỏi từ 1 lên 100 trong mỗi yêu cầu, độ trễ cơ bản vẫn giữ nguyên. Trong cùng một tiêu chuẩn, chi phí được cho là thấp hơn gần năm lần so với việc gọi Gemini 3.5 Flash-Lite thông qua API Interactions.

Các con số này không thể được suy rộng trực tiếp đến mọi trường hợp. Mặc dù mô hình cho phép 256.000 Token và 1.000 câu hỏi, nhưng Google chưa chứng minh rằng việc sử dụng đồng thời cả hai giới hạn này vẫn có thể hoàn thành trong 250 miligiây; thời gian tải lên các tệp video, âm thanh và PDF lớn cũng không được tính vào thời gian xử lý mô hình. Việc triển khai thực tế phải đo lại bằng chính độ dài tệp, số lượng câu hỏi và vị trí mạng của bạn.

Các bộ phân loại truyền thống thường hướng đến một định dạng dữ liệu cố định trước, trong khi Gemini Decision 1 có thể cùng lúc đọc văn bản, hình ảnh, âm thanh, video và PDF trong cùng một yêu cầu.

Mẫu chính thức đã gửi đến mô hình một bức ảnh mặt bàn khu vực pha chế và một câu mô tả văn bản, đồng thời hỏi ba điều: có chất lỏng chưa được dọn dẹp không, nên lau chùi hay gọi nhân viên vệ sinh, mức độ nghiêm trọng tại hiện trường là bao nhiêu. Mô hình kết luận có một lượng nhỏ chất lỏng bị tràn, đề nghị dùng vải lau sạch, và đưa ra xác suất cho từng lựa chọn.

Các nhà phát triển cũng có thể giảm độ phân giải hình ảnh hoặc video để giảm Token và phí bằng cách hy sinh một số chi tiết. Đối với các trường hợp như bồi thường, kiểm duyệt nội dung, kiểm tra sản phẩm hoặc nhận diện sự kiện video, cách này dễ triển khai hơn so với việc chạy riêng lẻ OCR, nhận dạng giọng nói, mô hình thị giác và công cụ quy tắc; nhưng mô hình thống nhất cũng có nghĩa là, nếu nó hiểu sai nội dung hình ảnh hoặc âm thanh, nhiều phán đoán tiếp theo có thể cùng lúc bị ảnh hưởng.

Google cho biết Gemini Decision 1 dẫn đầu trong các benchmark về định tuyến, suy luận, sắp xếp và hiểu đa phương thức, đồng thời đạt sai số hiệu chỉnh thấp nhất. Trong các so sánh chính thức, mô hình đạt 92,2% trên JevBench, cao hơn 90,9% của GPT‑6 Luna và 90,0% của Jev 1.14; sai số hiệu chỉnh là 0,0250, khoảng một nửa so với 0,0494 của Jev.

Nhưng nó không đảm nhận tất cả các nhiệm vụ. Jev đạt 86,8% trong nhiệm vụ ra quyết định của browser Mind2Web Multimodal, cao hơn nhẹ nhàng so với Gemini ở mức 86,2%, và cũng dẫn đầu Gemini ở 82,0% so với 79,9% trong nhiệm vụ When2Call về việc khi nào nên gọi công cụ.

Chỉ số Quyết định Phân tích Nhân tạo Độc lập v2.1 đạt khoảng 66 điểm cho Gemini Decision 1, xếp thứ 9 trong số 18 mô hình quyết định. Nó đứng đầu trong các hạng mục về kiến thức và suy luận, nhưng trong bài kiểm tra AA‑Paperclip yêu cầu hiểu chính xác toàn bộ sơ yếu lý lịch, hóa đơn, biên lai hoặc bài báo, chỉ có 33% tài liệu trả lời đúng tất cả các câu hỏi; trong khi Drex Max v1.1 đạt 63%. Trong bài kiểm tra When2Call độc lập, nó cũng thua kém Drex Max và Jev.

Điều này cho thấy “được hiệu chuẩn độ tin cậy tốt” và “mỗi phán đoán đều chính xác nhất” không phải là một việc. Các mô hình được hiệu chuẩn độ tin cậy tốt sẽ rõ ràng hơn về thời điểm có thể sai sót, giúp thiết lập ngưỡng kiểm tra thủ công; nhưng nếu ứng dụng sai lầm coi độ tin cậy cao là sự đảm bảo cho sự thật, vẫn có thể tự động thực hiện các quyết định sai lầm.

Google đã sử dụng API này trong nhiều sản phẩm. Gemini Notebook sử dụng nó để xác định truy vấn nào nên được chuyển đến mô hình nào và mức độ suy nghĩ nào, công ty cho biết độ trễ cho các truy vấn thông thường có thể giảm tới 40%; Stitch sử dụng nó để phản hồi nhanh các thay đổi thiết kế do giọng nói hoặc cú nhấp tạo ra; CC từ Google Labs chọn phản ứng từ hơn 200 biểu tượng cảm xúc; Google Search đặt nó trước các lệnh gọi công cụ MCP để phát hiện hành vi đối kháng và nội dung nguy hiểm.

Các ví dụ này làm rõ vị trí thực sự của nó: đó không phải là trí tuệ mà người dùng cuối cùng nhìn thấy, mà là mặt phẳng điều khiển nằm sau Agent. Mô hình sinh tạo chịu trách nhiệm viết mã, tổ chức ngôn ngữ và giải quyết các vấn đề mở; mô hình ra quyết định chịu trách nhiệm xác định bước tiếp theo nên gọi gì, có nên cho phép gọi hay không, cần mô hình mạnh đến mức nào, và khi nào nên dừng tự động hóa và chuyển giao cho con người.

Sự phân công này có thể phù hợp hơn với các hệ thống Agent quy mô lớn so với việc chỉ đơn giản mở rộng mô hình tổng quát, vì nhiều bước hàng ngày không cần “viết giỏi hơn”, mà chỉ cần chọn nhánh đúng một cách đủ nhanh, rẻ và có độ tin cậy về xác suất.

Gemini Decision 1 hiện đang được cung cấp thông qua endpoint `v1beta` của Gemini Developer API, và hỗ trợ trên Google Cloud vẫn được ghi là “sắp ra mắt”. Google chưa công khai số lượng tham số, dữ liệu huấn luyện, sức mạnh tính toán huấn luyện, kiến trúc cụ thể hoặc bảng thông số hệ thống đầy đủ, do đó không thể xác định liệu nó có phải là kết quả của quá trình chưng cất từ các mô hình Gemini hiện có hay không, cũng như không thể xác minh độc lập các tuyên bố về an toàn và dữ liệu ở cấp độ huấn luyện.