source avatarJames Altucher

Compartilhar

KIMI K3 vs OPENAI / ANTHROPIC KIMI é decepcionantemente lento. Vou explicar por quê e quais ações se beneficiarão — adivinha só — Kimi, DeepSeek, etc., estão prestes a ficar MUITO melhores. Aqui está a diferença chave: Kimi K3 é um "mixture of experts" extremo. É um modelo de 2,8 trilhões de parâmetros (quase tão grande quanto o Claude), mas para cada token, ele ativa apenas 16 dos seus 896 especialistas — cerca de 104 bilhões de parâmetros. Portanto, ele está "jogando" em uma fatia muito menor (mas esperançosamente tão precisa quanto) do modelo. Esses 896 especialistas estão distribuídos em muitas GPUs. E cada token pode chamar um conjunto diferente de 16 — então as GPUs estão constantemente passando pedaços da resposta de volta e para frente. Isso sobrecarrega os interconectores. Agora suponha que os modelos fechados — Claude, GPT — operem de forma densa ou quase densa. Um modelo denso sabe exatamente onde estão seus pesos. Os dados fluem pelas mesmas GPUs, na mesma ordem, em cada prompt, tudo planejado antecipadamente. Claude paga por isso com mais poder de computação bruto por token — mas quase não toca nos fios lentos entre máquinas. ESSE É O GARGALO DO KIMI. E para os milhares de empresas que adotarão Kimi porque é mais barato. Os fios entre máquinas são a parte lenta. Dentro de uma GPU, os dados se movem a cerca de 8 TB/s hoje. Entre GPUs, pode ser tão baixo quanto 0,1 TB/s. Cerca de 1% da velocidade. É como se Kimi estivesse dirigindo uma Ferrari e tivesse que parar e pegar uma bicicleta a cada milha ou assim — enquanto Claude dirige um único carro em uma única rodovia o tempo todo. Essa é uma grande parte do motivo pelo qual Kimi K3 parece lento na maioria dos provedores agora, enquanto Claude parece instantâneo. A arquitetura do Kimi é, argumentavelmente, mais inteligente por dólar de computação, mas suas comunicações percorrem os links mais lentos do data center. É por isso que os interconectores SÃO O NEGÓCIO por trás de toda a história dos modelos abertos: à medida que os interconectores melhoram, os modelos abertos extremamente esparsos são os que mais se beneficiam. Corrija a tubulação e os modelos abertos poderão/irão superar os modelos fechados. A "tubulação" por 40 anos foram CPUs. Depois, GPUs. Agora... interconectores. Quem está na corrida: $CRDO — líder em interconectores elétricos baseados em cobre (cabos elétricos ativos). A tecnologia estabelecida, e a que está atingindo primeiro os limites físicos. Mas o cobre está atingindo limites físicos. Muito lento. $NVDA — acabou de investir US$ 2 bilhões cada em $COHR e $LITE para garantir interconectores ópticos baseados em laser. $MRVL — liderou a última rodada de financiamento da privada Mojo Vision e está desenvolvendo conjuntamente interconectores ópticos baseados em MicroLED com ela. Leia novamente: Marvell está apostando em MicroLEDs. Mas sem produto. Sem MicroLED. Avicena — privada, bem financiada, já demonstrou links de MicroLED, mas nada ainda escalado. Então há $FABC, a aposta com maior recompensa, na minha opinião — e sou acionista — que está desenvolvendo conjuntamente um interconector MicroLED de alta velocidade e eficiente em energia (Neural I/o) com $KOPN — Grande vantagem: KOPN tem anos de experiência em fabricação de MicroLED, incluindo para o setor militar — e $FABC detém a propriedade intelectual desses interconectores com $KOPN. A empresa afirma que visa demonstrar a plataforma até o final de 2026. O indício de que os interconectores MicroLED são reais: Marvell, uma empresa de mais de US$ 172 bilhões, acabou de fazer a mesma aposta, e Jensen Huang então declarou: "MRVL é a próxima empresa de trilhões de dólares." Kimi é dolorosamente lento hoje. Isso não é um problema do modelo (!) — é um problema de tubulação. E a tubulação é onde o dinheiro está indo.

Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.