Pokee AI lance un modèle de 28 milliards de paramètres avec une fenêtre de contexte de 10 millions de jetons

iconChainthink
Partager
AI summary iconRésumé
Les actualités sur l’IA et la crypto ont émergé le 5 août, lorsque Pokee AI a dévoilé le modèle Pokee-Isaac de 28 milliards de paramètres avec une fenêtre de contexte de 10 millions de jetons. Les tests internes ont montré qu’Isaac a obtenu un score de 95 dans les tests RULER de 256K à 4M jetons et de 93,3 à pleine capacité. D’autres modèles ont échoué au-delà de 2M jetons. L’entreprise utilise une architecture propriétaire non exclusivement décodeur. Fondée en 2024 par Zhu Zheqing, ancien responsable d’ARRL chez Meta, Pokee a levé 12 millions de dollars en financement initial auprès de Point72 Ventures, Qualcomm Ventures et Samsung NEXT. Les nouvelles listings de jetons pourraient bénéficier de ces avancées en IA.

ChainThink : Le 5 août, l'entreprise de start-up d'agents IA Pokee AI a lancé Pokee-Isaac 28B, avec un total de 28 milliards de paramètres et une fenêtre de contexte de 10 millions de tokens, soit environ dix fois la limite des modèles主流 de 1 million de tokens.

Selon ses propres tests, Isaac a maintenu une note autour de 95 dans le test RULER de texte long, de 256 000 à 4 millions de tokens ; après avoir atteint 10 millions de tokens, la note reste à 93,3.

Les cinq autres modèles de référence n'ont pas renvoyé de résultats exploitables à partir de 2 millions de tokens.

Pokee attribue cette capacité à son architecture « non purement decoder-only » développée en interne, mais le rapport technique ne révèle pas les détails de l'architecture, des mécanismes d'attention ni de la gestion de la mémoire vidéo ; il est donc impossible pour l'extérieur d'évaluer sa mise en œuvre pour le moment.

Pokee AI, fondée en 2024 par Zhu Zheqing, ancien responsable de l'apprentissage par renforcement des applications chez Meta, a levé 12 millions de dollars en série seed menée par Point72 Ventures, avec la participation de Qualcomm Ventures et Samsung NEXT, entre autres.

Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.