ChainThink का संदेश, 5 अगस्त, AI Agent स्टार्टअप Pokee AI ने Pokee-Isaac 28B लॉन्च किया, जिसकी मॉडल पैरामीटर कुल संख्या 28 अरब है और संदर्भ विंडो 10 मिलियन Token तक पहुँच गई है, जो मुख्यधारा के मॉडल की लगभग 10 लाख Token की सीमा के लगभग 10 गुना है।
अपने स्वयं के परीक्षण के अनुसार, आइजैक ने RULER लंबे पाठ परीक्षण में 256,000 से 4,000,000 टोकन के बीच स्थिर रूप से 95 अंक के आसपास प्रदर्शन किया; 10,000,000 टोकन तक बढ़ाने के बाद भी उसका स्कोर 93.3 रहा।
शेष पाँच मॉडलों में से कोई भी 20 लाख टोकन से अधिक पर कोई उपयोगी परिणाम नहीं देता है।
Pokee इस क्षमता को अपने स्वयं विकसित "केवल डिकोडर नहीं वाली आर्किटेक्चर" को देता है, लेकिन तकनीकी रिपोर्ट में विशिष्ट आर्किटेक्चर, ध्यान तंत्र और वीडियो मेमोरी समाधान शामिल नहीं हैं, इसलिए बाहरी लोग अभी इसके कार्यान्वयन का आकलन नहीं कर सकते।
Pokee AI की स्थापना 2024 में पूर्व Meta एप्लिकेशन रीइनफोर्समेंट लर्निंग प्रमुख झू ज़ेकिंग द्वारा की गई, जिसे Point72 Ventures द्वारा नेतृत्व किए गए 12 मिलियन डॉलर की बीज फंडिंग मिली, जिसमें Qualcomm Ventures और Samsung NEXT जैसे निवेशक शामिल थे।
