Pesan ChainThink, 5 Ogos, syarikat rintisan AI Agent, Pokee AI, melancarkan Pokee-Isaac 28B dengan jumlah parameter model sebanyak 28 bilion dan tetingkap konteks mencapai 10 juta Token, hampir 10 kali ganda had utama model sebanyak 1 juta Token.
Menurut ujian sendiri, Isaac terus mempertahankan skor sekitar 95 dalam ujian teks panjang RULER pada julat 256.000 hingga 4 juta token; selepas dinaikkan ke 10 juta token, skor masih 93.3.
Lima model perbandingan lainnya tidak mengembalikan hasil yang boleh digunakan mulai dari 2 juta Token.
Pokee mengaitkan kemampuan ini kepada arsitektur "bukan hanya Decoder-only" buatan sendiri, tetapi laporan teknikal tidak mengungkapkan arsitektur spesifik, mekanisme perhatian, atau reka bentuk memori grafik, sehingga pihak luar sementara ini tidak dapat menilai cara pencapaiannya.
Pokee AI ditubuhkan pada tahun 2024 oleh Zhu Zheqing, mantan ketua pembelajaran penguatan aplikasi di Meta, dan telah menerima putaran benih sebanyak $12 juta yang dipimpin oleh Point72 Ventures, dengan penyertaan dari Qualcomm Ventures dan Samsung NEXT.