गूगल जेमिनी API उपयोगकर्ता आकाशस्पर्शी बिलिंग बग्स की रिपोर्ट कर रहे हैं

Beating मॉनिटरिंग के अनुसार, हाल ही में, गूगल AI डेवलपर फोरम पर Gemini API बिलिंग सिस्टम के नियंत्रण से बाहर होने के कई आपातकालीन सहायता अनुरोध सामने आए हैं। कई डेवलपर्स ने अपने सामान्य उपयोग के दौरान सिस्टम के नीचले स्तर के दोष के कारण विशाल असामान्य शुल्क का सामना किया, जैसे कि कुछ लोगों को केवल 12 घंटे में लगभग 27,000 युआन की राशि काट ली गई। अभी तक, गूगल के बिलिंग और तकनीकी टीमें इस मामले में एक-दूसरे को दोष दे रही हैं, और कोई भी आधिकारिक ठीक करने का बयान या त्वरित रिफंड प्रक्रिया जारी नहीं की गई है। जांच के अनुसार, डेवलपर्स के विशाल बिल का मुख्य कारण दो प्रमुख बग हैं: पहला, 'गॉस्ट कैश' दोष, जिसमें API के माध्यम से बनाए गए कॉन्टेक्स्ट कैश की समय सीमा समाप्त होने या हटाए जाने के बाद, फ्रंटएंड प्रबंधन सूची स्पष्ट हो जाती है, लेकिन गूगल के बैकएंड पर बिलिंग प्रति घंटे हजारों युआन की दर से 'खाली' कटौती करती रहती है; दूसरा, 'थिंकिंग साइकिल' फ़ंदा, जब इंटरनेट सर्च जैसे टूल्स को सक्रिय किया जाता है, तो मॉडल का 'थिंकिंग बजट सीमा' समाप्त हो जाता है, जिससे मॉडल सरल कार्यों को संभालते समय अनंत निष्कर्षण में फँस जाता है, 64,000 Token से अधिक का प्रयोग करके समय सीमा पार होकर क्रैश होता है, हालांकि 'शून्य आउटपुट' (कोई उपयोगी प्रतिक्रिया प्रदान नहीं करता) होता है, परंतु गूगल 1500% तक बढ़े हुए 'थिंकिंग' शुल्क की पूरी राशि प्राप्त करता है। क्योंकि गूगल क्लाउड बिलिंग सिस्टम में 32 से 72 घंटे की महत्वपूर्ण देरी है, साथ ही सीमा-आधारित स्वचालित सुरक्षा मेकेनिज़्म का अभाव है, प्रति-अलर्ट प्राप्ति से पहले ही, डेवलपर्स पर महत्वपूर्ण पैसे कटते हैं।चूंकि प्रशासनिक सहायता प्रतिक्रिया में पीछे हटती है,औरफ़ोरम पर कोई प्रतिक्रिया में सक्रियता से प्रतिक्रिया प्रदाननहींकरता,अतःवित्तीयजोखिमसेबचनेकेलिए,कुछपीड़ितडेवलपर्सनेअपनेउत्पादनपर्यावरणमेंGeminiकेकॉन्टेक्स्टकैशऔरइनफ़रेंसमॉडलकोपूरीतरहबंदकरदेनेकीघोषणाकीहै।