KIMI K3 vs OPENAI / ANTHROPIC KIMI es sorprendentemente lento. Voy a explicar por qué y qué acciones se beneficiarán, porque —adivinen qué— Kimi, DeepSeek, etc. están a punto de volverse MUCHO mejores. Aquí está la diferencia clave: Kimi K3 es una "mezcla extrema de expertos". Es un modelo de 2.8 billones de parámetros (casi tan grande como Claude), pero para cada token activa solo 16 de sus 896 expertos —aproximadamente 104 mil millones de parámetros. Por lo tanto, "juega" en una porción mucho más pequeña (pero esperemos igual de precisa) del modelo. Esos 896 expertos están distribuidos en muchas GPU. Y cada token puede llamar a un conjunto diferente de 16 —por lo que las GPU están constantemente intercambiando fragmentos de la respuesta. Esto somete a presión los interconectores. Ahora supongamos que los modelos cerrados —Claude, GPT— funcionan de forma densa o casi densa. Un modelo denso sabe exactamente dónde viven sus pesos. Los datos fluyen a través de las mismas GPU en el mismo orden, en cada solicitud, todo planeado con anticipación. Claude paga eso con más potencia de cómputo bruta por token —pero apenas toca los cables lentos entre máquinas. ESTE ES EL CUELLO DE BOTELLA DE KIMI. Y para los miles de empresas que adoptarán Kimi porque es más barato. Los cables entre máquinas son la parte lenta. Dentro de una GPU, los datos se mueven a aproximadamente 8 TB/s hoy en día. Entre GPU podrían ser tan bajos como 0.1 TB/s. Alrededor del 1% de la velocidad. Es como si Kimi estuviera conduciendo un Ferrari y tuviera que detenerse y tomar una bicicleta cada milla o así —mientras que Claude conduce un solo auto en una sola autopista todo el camino. Esa es una gran parte de la razón por la que Kimi K3 se siente lento en la mayoría de los proveedores actualmente, mientras que Claude se siente instantáneo. La arquitectura de Kimi es posiblemente más inteligente por dólar de cómputo, pero sus mensajes viajan por los enlaces más lentos del centro de datos. Por eso los interconectores SON LA OPERACIÓN subyacente a toda la historia de los modelos abiertos: a medida que los interconectores mejoren, los modelos abiertos extremadamente dispersos son los que más se beneficiarán. Arregla la tubería y los modelos abiertos podrán/superarán a los modelos cerrados. La "tubería" durante 40 años fueron las CPU. Luego las GPU. Ahora... los interconectores. ¿Quiénes están en la carrera: $CRDO — el líder en interconectores eléctricos basados en cobre (cables eléctricos activos). La tecnología establecida, y la que primero está alcanzando límites físicos. Pero el cobre está alcanzando sus límites físicos. Demasiado lento. $NVDA — acaba de invertir $2 mil millones cada uno en $COHR y $LITE para asegurar interconectores ópticos basados en láser. $MRVL — lideró la última ronda de financiamiento de Mojo Vision, una empresa privada, y está desarrollando conjuntamente interconectores ópticos basados en MicroLED con ellos. Léelo otra vez: Marvell está apostando por MicroLED. Pero sin producto. Sin MicroLED. Avicena — privada, bien financiada, ha demostrado enlaces MicroLED pero aún nada escalado. Luego está $FABC, la apuesta con mayor recompensa, en mi opinión, y soy accionista, que está desarrollando conjuntamente un interconector MicroLED de alta velocidad y eficiente energéticamente (Neural I/o) con $KOPN — Gran ventaja: KOPN tiene años de experiencia en fabricación de MicroLED, incluyendo para el ejército — y $FABC poseerá la propiedad intelectual junto con $KOPN sobre estos interconectores. La empresa dice que tiene como objetivo demostrar la plataforma antes del final de 2026. La señal de que los interconectores MicroLED son reales: Marvell, una empresa de más de $172 mil millones, acaba de hacer la misma apuesta, y Jensen Huang luego declaró: "MRVL es la próxima empresa de un billón de dólares". Kimi es dolorosamente lento hoy. Eso no es un problema del modelo (!) — es un problema de tubería. Y la tubería es donde va el dinero.
James AltucherCompartir
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.