Pokee AI Melancarkan Model 28B dengan Konteks 10M Token, 10x Lebih Panjang Berbanding Model Arus Utama

iconKuCoinFlash
Kongsi
AI summary iconRingkasan
Media berita AI + kripto MetaEra melaporkan bahawa Pokee AI telah melancarkan model 28B-nya, Pokee-Isaac, dengan jendela konteks 10 juta token—10 kali lebih panjang daripada kebanyakan model. Dibangunkan oleh bekas pemimpin Meta Zhu Zheqing, ia mendapat skor 95 dalam ujian token 256K–4M dan 93.3 pada 10 juta token. Syarikat yang ditubuhkan pada 2024 ini telah mengumpulkan pendanaan benih sebanyak $12 juta daripada Point72 Ventures, Qualcomm Ventures, dan Samsung NEXT. Pelancaran token baru mungkin mendapat manfaat daripada kemajuan AI seperti ini.
ME AI mesej, menurut pemantauan Beating, syarikat rintisan AI Agent, Pokee AI, telah melancarkan Pokee-Isaac 28B. Jumlah parameter model hanya 2.8 bilion, tetapi tetingkap konteks mencapai 10 juta Token. Saat ini, had utama model ialah sekitar 1 juta Token, dan Isaac hampir 10 kali ganda. Dalam ujian sendiri oleh Pokee, Isaac terus mempertahankan skor sekitar 95 dalam ujian teks panjang RULER, dari 256,000 hingga 4 juta Token. Selepas ditingkatkan hingga 10 juta Token, skor masih berada pada 93.3. Lima model pembanding lain tidak menghasilkan hasil yang boleh digunakan mulai dari 2 juta Token. Pokee mengaitkan konteks super panjang ini dengan arsitektur "bukan hanya Decoder-only" buatan sendiri, iaitu tidak sepenuhnya mengikuti struktur decoder-only yang biasa digunakan dalam model besar. Namun, laporan teknikal tidak mengumumkan arsitektur spesifik, mekanisme perhatian, atau penyelesaian memori GPU, sehingga pihak luar masih tidak dapat menilai bagaimana ia dicapai. Pokee AI ditubuhkan pada tahun 2024 oleh Zhu Zheqing, bekas ketua pembelajaran penguatan aplikasi di Meta. Syarikat ini sebelum ini menerima putaran benih sebanyak $12 juta yang dipimpin oleh Point72 Ventures, dengan penyertaan Qualcomm Ventures dan Samsung NEXT. (Sumber: MLion)
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.