Google ra mắt Gemini Decisions API, thực hiện đánh giá quyết định trong một lần truyền tiến duy nhất dựa trên mô hình Decision1, độ trễ đầu đến cuối từ 150 đến 250 miligiây, hỗ trợ đầu vào đa phương thức và nhiều dạng câu hỏi khác nhau, giá cả phổ cập.Tác giả bài viết, nguồn: AIBase
Sự phát triển của công nghệ trí tuệ nhân tạo đang chuyển dịch nhanh chóng từ việc “tạo nội dung” đơn thuần sang “ra quyết định hiệu quả”. Gần đây, Google chính thức ra mắt Gemini Decisions API mới, một điểm cuối hoàn toàn mới được điều khiển bởi mô hình nền tảng Gemini Decision1, nhằm giúp các tác nhân trí tuệ nhân tạo đưa ra các quyết định được định sẵn cực nhanh trong các hoạt động hàng ngày, loại bỏ hoàn toàn quy trình truyền thống đòi hỏi tạo ra các phản hồi văn bản dài dòng.
Chức năng và cơ chế hoạt động cốt lõi: Thực hiện đánh giá hiệu quả thông qua một lần truyền tiến
Về kiến trúc kỹ thuật cơ sở, Gemini Decision1 hoạt động khác biệt căn bản so với các mô hình lớn truyền thống. Mô hình này không sử dụng phương pháp sinh phản hồi từng Token một, mà thay vào đó, trong một lần truyền tiến duy nhất, nó trực tiếp đánh giá tổng thể các tùy chọn đã được định sẵn, sau đó trả về xác suất và điểm tự tin tương ứng.
Nhờ thiết kế hiệu quả này, độ trễ đầu đến cuối của giao diện đã được giảm đáng kể xuống trong khoảng 150 đến 250 miligiây, đáp ứng nhu cầu phản hồi thời gian thực của các tác nhân trong các kịch bản tương tác tần suất cao.
Về mặt đầu vào và hình thức gọi cụ thể, Gemini Decisions API thể hiện khả năng xử lý đa mô hình cực kỳ mạnh mẽ. Các nhà phát triển có thể đánh giá lên đến 1.000 câu hỏi độc lập trong một lần gọi API, với đầu vào đa mô hình chung bao gồm văn bản, hình ảnh, âm thanh, video và PDF. Các hình thức gọi được hỗ trợ cụ thể bao gồm:
Quick "yes or no" check.
Câu hỏi trắc nghiệm nhiều lựa chọn với tối đa 255 lựa chọn.
Yêu cầu đánh giá dựa trên tiêu chí điểm số đã định sẵn.
Giá cả phổ cập và triển vọng ứng dụng
Về chiến lược giá, Google đã thiết lập tiêu chuẩn cực kỳ cạnh tranh cho API này: chỉ 0,10 USD cho mỗi triệu token đầu vào.
Các chuyên gia phân tích ngành cho biết, khi các mô hình lớn được tích hợp sâu rộng vào mọi ngành nghề, các tác nhân thông minh khi thực hiện các luồng công việc phức tạp ở nền tảng sau thường cần thực hiện hàng loạt phán đoán nhẹ và lựa chọn lộ trình. Việc ra mắt Gemini Decisions API, bằng cách bỏ qua giai đoạn tạo văn bản trung gian, không chỉ giảm đáng kể chi phí tính toán và độ trễ phản hồi, mà còn cung cấp nền tảng hạ tầng vững chắc để xây dựng các ứng dụng tác nhân AI phức tạp mượt mà và phản hồi nhanh hơn.

