source avatarJames Altucher

Поделиться

KIMI K3 против OPENAI / ANTHROPIC KIMI удивительно медленный. Я объясню, почему, и какие акции выиграют — угадайте что — Kimi, DeepSeek и другие вот-вот станут намного лучше. Вот ключевое различие: Kimi K3 — это экстремальная «смесь экспертов». Это модель с 2,8 триллиона параметров (почти такая же большая, как Claude), но для каждого токена активируется всего 16 из 896 экспертов — около 104 миллиардов параметров. То есть она «играет» на гораздо меньшем (но, надеюсь, не менее точном) фрагменте модели. Эти 896 экспертов распределены по множеству GPU. И каждый токен может вызывать другой набор из 16 — поэтому GPU постоянно передают друг другу фрагменты ответа. Это нагружает интерконнекты. Теперь предположим, что закрытые модели — Claude, GPT — работают в плотном или почти плотном режиме. Плотная модель точно знает, где находятся её веса. Данные проходят через одни и те же GPU в одном и том же порядке при каждом запросе, всё заранее запланировано. Claude платит за это большим количеством вычислительной мощности на токен — но почти не задевает медленные соединения между машинами. ЭТО БУТЫЛКОЕ ШЕЙКО КИМИ. И для тысяч компаний, которые будут внедрять Kimi, потому что он дешевле. Соединения между машинами — это медленная часть. Внутри GPU данные перемещаются со скоростью около 8 ТБ/с сегодня. Между GPU может быть всего 0,1 ТБ/с — примерно 1% от скорости. Это как если бы Kimi ехал на Ferrari и каждый миль должен был остановиться и пересесть на велосипед — в то время как Claude едет на одном автомобиле по одной автостраде без остановок. Именно поэтому Kimi K3 кажется медленным у большинства провайдеров прямо сейчас, в то время как Claude кажется мгновенным. Архитектура Kimi, возможно, умнее на доллар вычислительной мощности, но её общение происходит через самые медленные звенья в центре обработки данных. Именно поэтому интерконнекты — это ТОРГОВАЯ ВОЗМОЖНОСТЬ под всей историей открытых моделей: по мере улучшения интерконнектов именно экстремально разреженные модели с открытыми весами получат наибольшую выгоду. Исправьте трубопроводы — и открытые модели смогут/будут превзойти закрытые модели. «Трубопроводы» последние 40 лет были CPU. Затем — GPU. Сейчас... интерконнекты. Кто в гонке: $CRDO — лидер в области медных электрических интерконнектов (активные электрические кабели). Устоявшаяся технология, и та, которая первой достигает физических пределов. Но медь тоже достигает пределов. Слишком медленно. $NVDA — только что вложила по $2 миллиарда в $COHR и $LITE, чтобы захватить лазерные оптические интерконнекты. $MRVL — возглавила последний раунд финансирования частной компании Mojo Vision и совместно разрабатывает оптические интерконнекты на основе MicroLED. Прочтите ещё раз: Marvell делает ставку на MicroLED. Но пока нет продукта. Нет MicroLED. Avicena — частная компания, хорошо финансируемая, продемонстрировала ссылки на MicroLED, но масштабирования ещё нет. А затем есть $FABC — по моему мнению, самая выгодная возможность для инвестиций, и я являюсь акционером, которая совместно разрабатывает высокоскоростной, энергоэффективный MicroLED-интерконнект (Neural I/O) с $KOPN — Большое преимущество: KOPN имеет многолетний опыт производства MicroLED, включая для военных нужд — и $FABC будет владеть интеллектуальной собственностью на эти интерконнекты вместе с $KOPN. Компания заявляет, что планирует продемонстрировать платформу к концу 2026 года. Признак того, что MicroLED-интерконнекты реальны: Marvell, компания стоимостью более $172 млрд, только что сделала ту же ставку, а затем Jensen Huang заявил: «MRVL — следующая триллионная компания». Kimi сегодня болезненно медленный. Это не проблема модели (!) — это проблема трубопроводов. И именно в трубопроводах сейчас сосредоточены инвестиции.

Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.