ChainThink mesajı, 5 Ağustos'ta AI Agent girişimi Pokee AI, Pokee-Isaac 28B'yi duyurdu; modelin toplam parametre sayısı 28 milyar ve bağlam penceresi 10 milyon Token'a ulaştı, bu da ana akım modellerin yaklaşık 1 milyon Token sınırının 10 katıdır.
Kendi testlerine göre, Isaac, RULER uzun metin testinde 256.000 ile 4.000.000 Token aralığında sürekli olarak 95 puan civarında kaldı; 10.000.000 Token'e kadar çıkarıldığında puanı hâlâ 93,3 oldu.
Diğer beş karşılaştırma modeli, 2 milyon Token'dan itibaren hiçbir sonuç döndürmedi.
Pokee, bu yeteneği kendi geliştirdiği "yalnızca Decoder olmayan mimari"ye atıfta bulunuyor, ancak teknik rapor, spesifik mimari, dikkat mekanizmaları ve GPU bellek çözümlerini kamuoyuna açıklamamıştır; dışarıda uygulama yöntemi hakkında değerlendirme yapılamamaktadır.
Pokee AI, 2024 yılında eski Meta uygulama pekiştirmeli öğrenme sorumlusu Zhu Zheqing tarafından kuruldu ve Point72 Ventures'in öncülük ettiği 12 milyon dolarlık tohum sermaye turunu, Qualcomm Ventures ve Samsung NEXT gibi yatırımcıların katıldığı bir turu tamamladı.
