Pokee AI Meluncurkan Model 28 Miliar Parameter dengan Jendela Konteks 10 Juta Token

iconChainthink
Bagikan
AI summary iconRingkasan
Berita AI + kripto muncul pada 5 Agustus ketika Pokee AI meluncurkan model Pokee-Isaac dengan 28 miliar parameter dan jendela konteks 10 juta token. Uji coba internal menunjukkan Isaac mendapat skor 95 dalam tes RULER dari 256K hingga 4M token dan 93,3 pada kapasitas penuh. Model lain gagal melewati 2M token. Perusahaan ini menggunakan arsitektur proprietary yang bukan hanya decoder-only. Didirikan pada 2024 oleh Zhu Zheqing, mantan kepala ARRL Meta, Pokee mengumpulkan dana seed sebesar $12 juta dari Point72 Ventures, Qualcomm Ventures, dan Samsung NEXT. Pencatatan token baru mungkin mendapat manfaat dari kemajuan AI semacam ini.

Pesan ChainThink, 5 Agustus, perusahaan startup AI Agent Pokee AI meluncurkan Pokee-Isaac 28B, dengan total parameter model sebesar 28 miliar dan jendela konteks mencapai 10 juta Token, hampir 10 kali lipat dari batas atas sekitar 1 juta Token pada model utama.

Menurut pengujian internal, Isaac tetap mempertahankan skor sekitar 95 dalam pengujian teks panjang RULER pada rentang 256.000 hingga 4 juta token; setelah ditingkatkan hingga 10 juta token, skornya tetap 93,3.

Kelima model pembanding lainnya tidak mengembalikan hasil yang dapat digunakan mulai dari 2 juta Token.

Pokee mengatribusikan kemampuan ini pada arsitektur "bukan hanya Decoder-only" yang dikembangkan sendiri, tetapi laporan teknis tidak mengungkapkan arsitektur spesifik, mekanisme perhatian, atau solusi memori GPU, sehingga pihak luar belum dapat menilai cara implementasinya.

Pokee AI didirikan pada 2024 oleh Zhu Zheqing, mantan kepala pembelajaran penguatan aplikasi di Meta, yang sebelumnya mendapatkan pendanaan seed sebesar $12 juta dipimpin oleh Point72 Ventures, dengan partisipasi dari Qualcomm Ventures dan Samsung NEXT.

Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.