Google ra mắt Gemini Decisions API với độ trễ 150ms để ra quyết định AI nhanh chóng

iconMetaEra
Chia sẻ
AI summary iconTóm tắt
Google ra mắt Gemini Decisions API với độ trễ 150ms để hỗ trợ ra quyết định AI nhanh chóng, mang đến công cụ mới cho các nhà phát triển trong lĩnh vực tin tức AI + tiền điện tử. Được xây dựng trên mô hình Gemini Decision1, API này đánh giá các tùy chọn đã định trước trong một lần xử lý, xử lý lên đến 1.000 câu hỏi mỗi lần gọi. Nó hỗ trợ các định dạng yes/no, trắc nghiệm và điểm số với đầu vào đa phương tiện. Với giá 0,10 USD mỗi triệu token, API này nhằm giảm chi phí và tăng tốc các quy trình làm việc AI phức tạp. Các trang tin tức tiền điện tử đã bắt đầu nhấn mạnh tiềm năng của nó cho các ứng dụng thời gian thực.
Google ra mắt Gemini Decisions API, thực hiện đánh giá quyết định trong một lần truyền tiến duy nhất dựa trên mô hình Decision1, độ trễ đầu đến cuối từ 150 đến 250 miligiây, hỗ trợ đầu vào đa phương thức và nhiều dạng câu hỏi khác nhau, giá cả phổ cập.

Tác giả bài viết, nguồn: AIBase

Sự phát triển của công nghệ trí tuệ nhân tạo đang chuyển dịch nhanh chóng từ việc “tạo nội dung” đơn thuần sang “ra quyết định hiệu quả”. Gần đây, Google chính thức ra mắt Gemini Decisions API mới, một điểm cuối hoàn toàn mới được điều khiển bởi mô hình nền tảng Gemini Decision1, nhằm giúp các tác nhân trí tuệ nhân tạo đưa ra các quyết định được định sẵn cực nhanh trong các hoạt động hàng ngày, loại bỏ hoàn toàn quy trình truyền thống đòi hỏi tạo ra các phản hồi văn bản dài dòng.

Chức năng và cơ chế hoạt động cốt lõi: Thực hiện đánh giá hiệu quả thông qua một lần truyền tiến

Về kiến trúc kỹ thuật cơ sở, Gemini Decision1 hoạt động khác biệt căn bản so với các mô hình lớn truyền thống. Mô hình này không sử dụng phương pháp sinh phản hồi từng Token một, mà thay vào đó, trong một lần truyền tiến duy nhất, nó trực tiếp đánh giá tổng thể các tùy chọn đã được định sẵn, sau đó trả về xác suất và điểm tự tin tương ứng.

Nhờ thiết kế hiệu quả này, độ trễ đầu đến cuối của giao diện đã được giảm đáng kể xuống trong khoảng 150 đến 250 miligiây, đáp ứng nhu cầu phản hồi thời gian thực của các tác nhân trong các kịch bản tương tác tần suất cao.

Về mặt đầu vào và hình thức gọi cụ thể, Gemini Decisions API thể hiện khả năng xử lý đa mô hình cực kỳ mạnh mẽ. Các nhà phát triển có thể đánh giá lên đến 1.000 câu hỏi độc lập trong một lần gọi API, với đầu vào đa mô hình chung bao gồm văn bản, hình ảnh, âm thanh, video và PDF. Các hình thức gọi được hỗ trợ cụ thể bao gồm:

Quick "yes or no" check.

Câu hỏi trắc nghiệm nhiều lựa chọn với tối đa 255 lựa chọn.

Yêu cầu đánh giá dựa trên tiêu chí điểm số đã định sẵn.

Giá cả phổ cập và triển vọng ứng dụng

Về chiến lược giá, Google đã thiết lập tiêu chuẩn cực kỳ cạnh tranh cho API này: chỉ 0,10 USD cho mỗi triệu token đầu vào.

Các chuyên gia phân tích ngành cho biết, khi các mô hình lớn được tích hợp sâu rộng vào mọi ngành nghề, các tác nhân thông minh khi thực hiện các luồng công việc phức tạp ở nền tảng sau thường cần thực hiện hàng loạt phán đoán nhẹ và lựa chọn lộ trình. Việc ra mắt Gemini Decisions API, bằng cách bỏ qua giai đoạn tạo văn bản trung gian, không chỉ giảm đáng kể chi phí tính toán và độ trễ phản hồi, mà còn cung cấp nền tảng hạ tầng vững chắc để xây dựng các ứng dụng tác nhân AI phức tạp mượt mà và phản hồi nhanh hơn.

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.