Pokee AI lanza el modelo 28B con contexto de 10 millones de tokens, 10 veces más largo que los modelos principales

iconKuCoinFlash
Compartir
AI summary iconResumen
La plataforma de noticias de IA y cripto MetaEra informa que Pokee AI ha lanzado su modelo de 28B, Pokee-Isaac, con una ventana de contexto de 10 millones de tokens—10 veces más larga que la mayoría de los modelos. Desarrollado por Zhu Zheqing, exlíder de Meta, obtiene una puntuación de 95 en pruebas de 256K a 4M tokens y 93.3 en 10M tokens. La empresa, fundada en 2024, recaudó $12 millones en financiamiento semilla de Point72 Ventures, Qualcomm Ventures y Samsung NEXT. Los nuevos listados de tokens podrían beneficiarse de tales avances en IA.
ME AI Noticia, según el monitoreo de Beating, la empresa de agentes de IA Pokee AI ha lanzado Pokee-Isaac 28B. El modelo tiene un total de 28 mil millones de parámetros, pero su ventana de contexto alcanza los 10 millones de tokens. Actualmente, el límite de los modelos principales es de aproximadamente 1 millón de tokens; Isaac está cerca de 10 veces ese valor. En pruebas internas de Pokee, Isaac mantuvo una puntuación cercana a 95 en la prueba de texto largo RULER, desde 256.000 hasta 4 millones de tokens. Tras alcanzar los 10 millones de tokens, la puntuación aún fue de 93.3. Los otros cinco modelos de control no devolvieron resultados utilizables a partir de los 2 millones de tokens. Pokee atribuye su contexto ultra largo a su propia arquitectura «no puramente decoder-only», es decir, no sigue completamente la estructura de solo decodificador común en modelos grandes. Sin embargo, el informe técnico no ha revelado la arquitectura específica, el mecanismo de atención ni la solución de memoria gráfica, por lo que el exterior aún no puede determinar cómo lo logró. Pokee AI fue fundada en 2024 por Zhu Zheqing, exresponsable de aprendizaje por refuerzo en aplicaciones de Meta. La empresa recibió una ronda semilla de 12 millones de dólares liderada por Point72 Ventures, con participaciones de Qualcomm Ventures y Samsung NEXT, entre otros. (Fuente: MLion)
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.