AI-сгенерированный摘要: В июле 2026 года Moon Shadow открыла исходный код модели Kimi K3 и впервые公布了 список из 401 участника. Последняя оценка компании достигла 31,5 млрд долларов США, команда насчитывает более 300 человек, средний возраст которых менее 30 лет, и на каждого приходится в среднем 700 млн долларов оценки. Ядро команды включает трех сооснователей: ответственного за алгоритмы Чжоу Синьюй, архитектора У Юсина и технического директора Чжан Ютао, а также других ключевых специалистов из ведущих университетов, таких как Циньхуа и CMU. Команда внесла ряд инноваций в базовые технологии, включая механизм гибридного блочного внимания MoBA, архитектуру декомпозированного вывода Mooncake и оптимизатор Muon; соответствующие достижения были отмечены наградой за лучшую статью на конференции FAST 2025 по хранению данных. Эта молодая команда гиков известна плоской структурой управления и достигла максимальной эффективности инженерной работы по принципам «длинный, быстрый, экономичный», став важной силой в области крупных языковых моделей Китая.Автор статьи, источник: Leiphone
27 июля «Луна в тени» проявила всю свою искренность, полностью открыв исходный код модели Kimi K3 версии 2.8T. В конце технического отчета они впервые опубликовали список реальных участников, внесших вклад в создание Kimi K3 — мы подсчитали: 401 участник. Можно сказать, это полное представление команды талантов «Луны в тени».
От стартапа с оценкой всего в несколько миллиардов долларов до настоящего «светила отечественных крупных моделей» — Лунная Тень стала одной из немногих команд-энтузиастов на глобальной арене, способных конкурировать с такими топовыми моделями, как Claude Fable 5 и GPT-5.6 Sol.
С выпуском K3 последняя оценка Moonlight достигла 31,5 млрд долларов США, что составляет примерно 210 млрд юаней, и эту оценку в 210 млрд юаней обеспечивает чрезвычайно молодая команда.
Согласно открытой информации, у Месяца-Тени около 300 человек, средний возраст которых менее 30 лет, причем 80% из них — I-типы. Если перевести это в пересчете, то в среднем каждый из них обеспечивает оценку в 700 миллионов юаней.
Организационная структура Moonshot крайне плоская. У Moonshot пять основателей, каждый из которых напрямую взаимодействует с 40–50 сотрудниками. Внутри компании известны принципы «без иерархии, без KPI, без отделенных подразделений» — сотрудники могут в любое время оспаривать решения руководства. Один из деталей: на рефлексивной встрече в начале 2025 года сотрудник предложил радикальную идею, после чего Ян Чжилинь сделал даже более радикальный шаг — он полностью отказался от K1 и перешел на K2.
Эта непринужденность также проявляется в «душе» компании. Как поклонник рок-музыки, Ян Чжилин назвал конференц-залы именами легендарных групп, таких как Rolling Stones, Nirvana и Radiohead, а даже подписки Kimi были названы музыкальными терминами, такими как Adagio и Allegro.
Луна в тени убеждена, что сегодня, когда вычислительные мощности и данные становятся все более гомогенными, «вкус» является ключевым драйвером создания дифференцирующего барьера. Этот вкус проявляется не только в оттачивании моделей, но и глубоко отражается в их требовательности и стремлении к талантам.
Луна в тени любит нанимать генеральных директоров и особенно ценит людей с «эффектом основателя» или «гамблерским геном». Согласно публичным данным, по крайней мере 50 человек в компании основывали или присоединялись к стартапам. За последний год более 100 новых сотрудников были наняты через внутренние рекомендации.
Сегодня, в соответствии со списком, мы провели всесторонний анализ и собрали здесь всю достоверную информацию о участниках K3. Полное представление о фундаментальных данных и реальных компетенциях этого отряда топовых гиков.
01 Kimi — фундамент технической архитектуры
Чжоу Синьюй:
Чжоу Синьюй является одним из ключевых сооснователей Moonshot и руководителем алгоритмической команды.
Чжоу Синьюй и Ян Чжилин давно знали друг друга; интересный деталь: Чжоу Синьюй ранее был гитаристом группы Splay Тсингхуа, а ударником был именно Ян Чжилин.
До присоединения к Moonshot, Чжоу Синьюй работал в Megvii над масштабированием алгоритмов и исследованием моделей для мобильных устройств. Он тесно сотрудничал с руководителем фундаментальных научных исследований в Megvii того времени, нынешним главным научным сотрудником Jieyue Xingchen Чжан Сяньюй, и как один из ключевых авторов лично написал легковесную сеть ShuffleNet.
Основное направление Чжоу Синью — масштабирование алгоритмов крупных моделей. Он специализируется на эффективном и низкозатратном преобразовании передовых лабораторных алгоритмов в системы массового производства. Кроме того, он владеет оптимизацией гибридных архитектур: на техническом мероприятии AMA в сообществе Reddit он первым проанализировал преимущества гибридной архитектуры Kimi K3 KDA в сочетании с NoPE MLA, подтвердив, что данная архитектура более экономична по вычислительным ресурсам и быстрее в процессах предварительного обучения и обучения с подкреплением.
У Юсюнь:
У Юсин является одним из сооснователей Moonshot. Кроме того, он является ведущим экспертом и звездным архитектором в области искусственного интеллекта, обладая глубокими знаниями в нижележащей инженерной архитектуре и инфраструктуре глубокого обучения, компьютерного зрения (CV) и крупных языковых моделей (LLM).
У Юсюнь и Ян Чжилинь имеют одинаковое образование: они окончили факультет компьютерных наук Циньхуа, а затем продолжили обучение в Университете Карнеги-Меллон (CMU) в США. Он работал исследовательским инженером в лаборатории Meta AI (FAIR), где возглавлял и внес вклад в несколько ключевых технологий в области компьютерного зрения.
До основания «Луны в тени» с Ян Чжилинем, У Юсин уже оставил два знаковых результата, ставших отраслевыми стандартами, в области глубокого обучения и компьютерного зрения:
Один из основных создателей и разработчиков Detectron2, этот проект напрямую переформировал экосистему аспирантских исследований в области компьютерного зрения, став «универсальной базой» для тысяч визуальных крупномасштабных моделей и проектов по обнаружению объектов по всему миру.
Более инновационным было то, что в 2018 году он совместно с ведущим ученым Хэ Каймином опубликовал крупную работу по Group Normalization, которая была отмечена почетным упоминанием за лучшую статью на ECCV 2018.
Этот классический подход полностью преодолел смертельный ограничение традиционной Batch Normalization при обучении на небольших выборках. Способность吴育昕 внедрять фундаментальные инновации всего в паре строк, «переписывая глобальные правила обучения ИИ», придает ему огромный технический авторитет в мире с открытым исходным кодом.
На фоне Луны он был тем, кто закладывал фундамент. Он глубоко участвовал в оптимизации архитектуры крупных моделей и эффективности обучения, а также лично выступил на мировой конференции разработчиков PyTorch, где подробно разобрал вклад Kimi в базовую инфраструктуру открытого исходного кода.
Специализация У Юсина идеально дополняет последний фрагмент головоломки, необходимый для того, чтобы Kimi достигла пределов следующего поколения многомодальных длинных текстов. Он специализируется на оптимизации высокопроизводительных систем глубокого обучения, решая задачи, как заставить большие модели работать более стабильно, вычислять быстрее и потреблять меньше памяти при параметрах в триллионы — именно это составляет техническую стену, обеспечивающую плавный опыт Kimi при работе с длинными текстами и высокой параллельностью.
Как один из ключевых авторов MoCo v1 — важного этапа в развитии глубокого обучения, он позволил Kimi не только обладать самым мощным в отрасли «мозгом» (понимание естественного языка), но и развивать «глаза», способные глубоко понимать физический мир (мультимодальное зрение).
Чжан Юйтао:
Чжан Юйтао является одним из сооснователей Moonshot и его техническим директором (CTO). Он и Ян Чжилин — однокурсники по Цинхуа, а Тан Цзе, основатель Zhipu, является его преподавателем.
В 2016 году Чжан Юйтао совместно с Ян Чжилинем основал «Циклический интеллект», а затем вместе с Ян Чжилинем основал «Темную сторону Луны». Если Ян Чжилинь — это «навигатор» Темной стороны Луны, то Чжан Юйтао — главный инженер, ответственный за настройку силовой установки корабля «Интеллект» до предела. Kimi смог достичь прорывного развития в обработке длинных текстов, сложных рассуждениях и выполнении задач агентов, и заслуга в этом принадлежит Чжан Юйтао.
До присоединения к Месячной Тени он уже оставил несколько «отраслевых» значимых результатов в области знаниевых графов и гетерогенного слияния данных.
Одним из его наиболее известных технических достижений является руководство разработкой платформы анализа больших данных AMiner в качестве технического лидера. Ядро этой платформы, которая сегодня обслуживает миллионы ученых по всему миру, включает фундаментальные технологии, над которыми он работал во время обучения в аспирантуре в Тсингхуа. Такое глубокое понимание того, «как машины поглощают, понимают и извлекают огромные объемы знаний», напрямую легло в основу технологической базы сверхдлинной обработки текстов Kimi.
В области академических достижений он опубликовал множество высокоцитируемых статей на таких ведущих компьютерных конференциях, как KDD и CIKM. Он не только специализируется на том, чтобы с помощью графов знаний придать ИИ «логичность», но и возглавил разработку платформы «Тысяча циклов, нулевая выборка» еще в эпоху циклического интеллекта, обеспечив масштабное внедрение крупных моделей отрасли в сценариях корпоративных услуг.
Специализация Чжан Ютао точно предсказала каждый этап перехода ИИ от «способности вести диалог» к «способности выполнять задачи». Он сосредоточен на продвижении технологий длинных контекстных окон и динамической архитектуры сети, решая проблему того, как заставить ИИ сохранять «ясность» в потоке огромного объема информации.
На последней технологической конференции в июле 2026 года он четко обозначил три этапа инженеризации отрасли: 2023 год — эпоха Prompt, когда изучали, «как задавать вопросы»; 2024 год — переход к эпохе Context, где акцент сместился на «предоставление достаточной информации»; а к 2026 году крупные модели официально вошли в новую фазу инженерии Harness. Сейчас он возглавляет свою команду в борьбе за решающую задачу — «как создать среду выполнения, чтобы ИИ мог самостоятельно замкнуть цикл и исправить ошибки».
Сюй Синьжань:
Сюй Синьжэнь — вице-президент по инженерии и руководитель инфраструктуры ИИ компании Moonshot AI.
Он обладает опытом полного стека низкоуровневой разработки и ранее в Megvii отвечал за разработку фреймворка глубокого обучения MegEngine (Tianyuan) и системы поиска миллиардов векторов. В настоящее время он отвечает за общую архитектуру обучения, вывода и инфраструктуры крупных моделей Moonshot.
На стороне вывода больших моделей, для сценариев работы с длинными текстами Kimi, он и его команда совместно разработали разделенную архитектуру вывода Mooncake, основанную на KV Cache. Этот результат получил премию за лучшую статью на ведущем хранилищном конференции FAST 2025 благодаря полному разделению этапов предзаполнения (Prefill) и декодирования (Decode), а также снижению нагрузки на память GPU и I/O при обработке сверхдлинных контекстов в миллионном диапазоне.
В то же время, как один из ключевых авторов механизма MoBA (смешанное блочное внимание), он обеспечил значительное снижение затрат и повышение эффективности для Kimi на этапах обучения и вывода за счет разделения внимания на уровне блоков.
На стороне обучения моделей он участвовал в разработке открытого проекта Moonlight и его базового оптимизатора Muon, заменив традиционный AdamW на матричную ортогонализацию, что снизило вычислительные затраты при распределённом обучении моделей с триллионами параметров.
Благодаря этой серии практических решений по распределённому хранению и выводу при обработке больших объёмов текстовых данных, он был приглашён выступить на международной конференции по открытым источникам GOSIM China. Его основное направление — полная архитектура крупных моделей, направленная на обеспечение высокоинтеллектуального вывода длинных текстов с минимальными потерями FLOPs и использованием KV Cache.
Хэ Вэйжань:
Как руководитель системы рассуждений Moon Shadow, он является ключевым автором лучшей статьи FAST 2025, хранящейся в базе данных, и ключевым техническим специалистом по внедрению архитектуры длинных текстовых рассуждений Kimi. Его имя фигурирует во всех шести поколениях технологий — от Kimi k1.5, Kimi-VL, K2 до Kimi Linear, Kimi-Audio, а также в ключевых архитектурных статьях MoBA, Muon, AttnRes. Вся его работа сосредоточена на одной цели: обменивать системный дизайн на эффективность, чтобы сделать большие модели по-настоящему доступными.
До присоединения к Moonshot, Хэ Вэйжань уже много лет работал в области высокопроизводительных вычислений. Он окончил кафедру информатики Циньхуа, где в начале карьеры специализировался на трассировке чипов и оптимизации нижнего уровня производительности; в период работы в Megvii он занимался разработкой собственных ИИ-чипов и нейронных сетей с низкой разрядностью, работая в одно время с Чжоу Синью, сооснователем Moonshot — именно Чжоу Синью является первооткрывателем классического решения для обнаружения текста OCR — EAST.
После присоединения к Moonshot в 2023 году он применил свой многолетний опыт в системной инженерии к сервисам вывода для модели с триллионами параметров.
Его наиболее значимым достижением является архитектура разделенного вывода KVCache — Mooncake. Эта система нарушила традиционные шаблоны архитектуры сервисов вывода, выделив и централизованно управляя наиболее потребляющими видеопамять кэшами памяти крупных моделей, обеспечивая за счет глобального повторного использования кэша и точной маршрутизации увеличение пропускной способности запросов Kimi более чем на 75% при неизменном объеме вычислительных ресурсов. На конференции QCon в Q4 2024 года он сообщил, что благодаря этой архитектуре и постоянным инженерным оптимизациям удельная стоимость кластера вывода Kimi снизилась более чем в 20 раз за год.
В феврале 2025 года статья, связанная с Mooncake, получила премию Эрика Ридела за лучшую статью на конференции FAST — одну из высших наград в области систем хранения. Ещё больше подчеркивает её инженерную ценность то, что эта архитектура уже стабильно работала в производственной среде Kimi на тысячах узлов задолго до официального получения награды, обрабатывая ежедневно более сотни миллиардов токенов пользовательских запросов.
Хотя технический отчет K3 не раскрывает конкретные обязанности отдельных сотрудников, несколько ключевых прорывов продолжают техническую линию его команды: для решения проблемы сбоев традиционного префиксного кэша в гибридной архитектуре KDA+MLA команда внесла официальную реализацию с адаптацией в сообщество vLLM; для обработки длинных запросов в миллионы токенов кластер использует стратегию маршрутизации с учетом кэширования, максимизирующую эффективность повторного использования кэша. В итоге K3 показал результат, при котором стоимость вывода составляет всего 38% от стоимости Claude Fable 5, а оптимизация KVCache, префиксный кэш и контроль затрат — именно ключевые задачи системы Mooncake.
От трассировки чипов до вывода моделей размером в триллионы параметров, технологический путь Хэ Вэйжаня всегда был ясным: упорно оптимизировать системную эффективность, заменяя инженерный дизайн на более низкие вычислительные затраты. Если ведущие исследователи алгоритмов подняли потенциал Kimi до максимального уровня, то он и его команда сделали именно то, что превратило эту флагманскую способность в реальность — сделали её доступной и стабильной для большего числа обычных пользователей.
02 Средний слой — наступление, практические ключевые кадры
Ду Юлунь:
Ду Юлун отвечает за предобучение и масштабирование в Moonshot.
Он окончил Университет Иллинойса в Урбане-Шампейне и Карнеги-Меллонский университет по специальности искусственный интеллект. Затем присоединился к Cycle Intelligence, занимал должности исследователя и руководителя AI Lab, является одним из ключевых технических основателей Moonshot.
Как главный ответственный за предварительное обучение и масштабирование модели, его технический вклад полностью охватывает архитектурное проектирование всех поколений ключевых базовых моделей Kimi, а также всех многомодальных серий, включая VL и Audio.
В рамках прорывов в базовых технологиях он является соавтором статей «Attention Residuals», «MoBA (Mixed Block Attention)» и статьи об оптимизаторе для предварительного обучения «Muon is Scalable for LLM Training». Его работа сосредоточена на устранении проблемы затухания сигнала в сверхглубоких сетях за счет разделения внимания на уровне блоков и перестройки обучающего потока, что значительно повышает эффективность распределенного обучения для моделей размером в триллионы параметров.
На уровне открытого исходного кода он является активным ключевым участником официального открытого проекта MoonshotAI. Согласно данным о совместной работе с кодом, Ду Юлун тесно взаимодействует с экспертами по алгоритмам Су Цзяньлином и ответственным за систему вывода Хэ Вэйраном, обеспечивая частую совместную разработку и проверку кода; вместе они образуют замкнутый технологический цикл, лежащий в основе Kimi и обеспечивающий эффективную обработку длинных текстов в масштабе миллионов и передачу мультимодальных данных.
Чжан Юй:
Чжан Юй — ключевой архитектор Moonshot, специализирующийся на разработке эффективных, масштабируемых и дружественных к аппаратному обеспечению архитектур для крупных языковых моделей. Как пионер в области непрерывных архитектур и линейного внимания, он стремится преодолеть инженерный вызов «чем длиннее текст, тем медленнее работа и выше затраты».
В академической и инженерной практике Чжан Юй достиг значительных результатов. Он является соавтором-первым автором статьи «Attention Residuals» о остаточных соединениях, а также основным разработчиком эффективной архитектуры модели Moonshot.
Под его руководством был открыт исходный код модели Kimi Linear, в которой линейный механизм внимания впервые успешно применён для задач с сверхдлинным контекстом, обеспечив революционный скачок в эффективности. Кроме того, его статья «Путь разработки Kimi Linear», опубликованная на Zhihu и других технических сообществах, до сих пор считается обязательным руководством для инженеров данных крупных моделей.
От прорыва в реализации модели с 7 миллиардами параметров до помощи в выводе модели с триллионами параметров в первую мировую лигу, Чжан Юй свободно перемещается между академическим и промышленным миром, оставив множество мощных кодов на крупнейших академических конференциях и в открытых сообществах.
Эти прорывы стали возможны благодаря его глубокой работе в области ключевых технологий: при проектировании эффективных архитектур моделей он сосредоточился на оптимизации коммуникации и памяти в процессе масштабирования глубины модели; в области повышения динамики и эффективности обучения он путем перестройки базового остаточного потока коренным образом решил проблемы размытия градиентов и взрыва скрытых состояний, вызванные PreNorm в крупных моделях.
Лай Го кун:
Лай Гокунь — двойной выпускник Тсингхуа и Карнеги-Меллон, как и Ян Чжилинь.
Он один из самых продуктивных исследователей команды Kimi, автор более десяти статей, один из ключевых представителей «Клуба талантов» Yue Zhi An Mian, основной вкладчик Kimi K3 и ученый, достигший «определяющих» результатов в академической среде.
До присоединения к Moonshot, Лай Гофэн оставил два важных результата, ставших отраслевыми стандартами в области обработки естественного языка (NLP).
Один из них создал один из крупнейших в мире наборов данных для машинного понимания текста — набор данных RACE, который был обучен на вопросах английского языка для китайских студентов и стал эталоном для машинного понимания текста worldwide.
Еще более впечатляет то, что его статья в бакалавриате о рекомендательных алгоритмах «Explicit factor models for explainable recommendation» в 2024 году, спустя десять лет, получила премию SIGIR Test of Time — одну из высших наград в области информационного поиска, которая присуждается статьям, опубликованным десять лет назад, выдержавшим испытание временем и оказавшим долгосрочное влияние на отрасль.
Такие люди, обладающие способностью определять технологические направления на следующее десятилетие еще на этапе бакалавриата, не являются единственными в Moonshot.
Направление исследований Лай Гуокуня отлично соответствует ключевым возможностям Kimi, например, его экспертиза в «машинном понимании текста», которая решает задачу, как заставить ИИ понимать длинные документы и отвечать на вопросы, — это именно технологическая основа долгосрочной способности Kimi.
Предварительная тренировка больших моделей была одной из ключевых областей его исследований в CMU, кроме того, он специализировался на поиске нейронных архитектур, изучая, как заставить ИИ автоматически проектировать более эффективные структуры сетей, а также на объяснимых рекомендательных системах, позволяющих ИИ не только рекомендовать контент, но и объяснять пользователям, почему именно этот контент был рекомендован.
Го Хайцин:
Го Хайцин (Haiqing Guo) — один из ранних ключевых разработчиков команды Kimi от Moonshot, ветеран команды, участвовавший во всех этапах разработки и итераций основных проектов Kimi.
Открыто проверяемые проекты включают технический отчет Kimi k1.5, технический отчет Kimi K2, научную статью о ядре Attention Residual (AttnRes) и технический отчет Kimi K3. AttnRes является одним из двух ключевых архитектурных инноваций Kimi K3.
Согласно следам подписи, он охватил полный цикл итераций от Kimi k1.5 до K3, участвуя во всех ключевых этапах разработки нескольких поколений продуктов и являясь постоянным ключевым участником команды Kimi. На данный момент его конкретная должность и детализированные обязанности в разработке официально не раскрыты.
Чэнь Гуаньюй:
Чэнь Гуаньюй, вероятно, самый молодой исследователь Moon Shadow, родившийся в 2009 году, 17 лет, подросток, который заставил Илона Маска (Elon Musk) публично воскликнуть «Impressive» на X.
Когда Moonshot выпустил свою революционную флагманскую модель Kimi K3 с 2,8 триллионами параметров, он уже был признан соавтором вместе с техническими экспертами, такими как Су Цзяньлинь, как один из первых авторов фундаментальной работы по архитектуре Kimi K3 — «Attention Residuals».
Его участие в механизме внимательных остатков (Attention Residuals) напрямую изменило стандартные остаточные соединения, использовавшиеся в области глубокого обучения в течение десяти лет, позволив модели с помощью «обучаемого глубокого внимания» умно «оглядываться назад». Эта фундаментальная перестройка повысила эффективность масштабирования модели на 1,25 раза, позволив китайским компаниям двигаться быстрее с меньшими затратами в битве за вычислительные мощности триллионного масштаба. История его присоединения к Moonshot очень удивительна. Год назад он даже не знал, что такое Transformer, но был замечен стартапом из Кремниевой долины после того, как предложил идею «третьей механической вспомогательной руки человека» на хакатоне. Через семь недель он был полностью привлечен командой Kimi и без стандартных процедур включен в ядро исследовательской группы компании. В первую неделю работы он нарушил все правила и выиграл общий чемпионат внутреннего 48-часового экстремального хакатона Kimi.
Ду Анъан:
В техническом отчете Kimi имя Ду Анъана всегда указано первым. Он является одним из ключевых разработчиков многомодальной архитектуры Moonshot и одним из немногих исследователей, участвовавших во всех пяти поколениях в отчете Kimi. Он дважды занимал первое место в списке авторов после названия команды, что позволяет предположить, что его основной вклад в Kimi K3 связан с визуальной областью.
До присоединения к Moonshot, Ду Анган уже заложил две значимые основы в области компьютерного зрения.
Одно из направлений — углубленная работа в области подводного микровизуального анализа. Семь лет, включая бакалавриат и магистратуру, я учился в лаборатории подводного зрения Китайского океанского университета, специализируясь на чрезвычайно сложной классификации микроскопических изображений планктона — необходимо, чтобы ИИ точно распознавал самые мелкие формы жизни в океане на микроскопических изображениях с нечеткой фокусировкой, дефицитом образцов и крайне тонкими различиями между видами.
В 2020 году он опубликовал соответствующее исследование в Global OCEANS в качестве первого автора, применив моделирование на основе вторичных признаков для решения проблемы мелкозернистой классификации — это единственный результат за десятилетие исследований в этой области в лаборатории, полученный аспирантом в качестве первого автора.
Большее влияние в отрасли оказалы его достижения во время работы в Megvii. Его исследование по многопользовательской оценке позы было принято на ведущей конференции по компьютерному зрению ECCV 2020, а общее количество цитирований статьи превысило 300, что сделало её важным справочным материалом в области оценки позы человека. Среди соавторов этой работы — ведущие специалисты в области компьютерного зрения, такие как Сунь Цзянь и Чжан Сяньюй, а также Чжоу Синьюй, сооснователь Moonshot AI.
После присоединения к Kimi он углубился в разработку визуальных кодировщиков, мультимодальную согласованность и технологии визуальных агентов, особенно выделяясь в понимании изображений высокого разрешения, анализе длинных временных рядов видео и мультимодальном обучении с подкреплением — именно эти технологии составляют фундамент исходных мультимодальных возможностей Kimi. Кроме того, его компетенции простираются ниже — к инфраструктуре обучения крупных моделей: от стабильности оптимизаторов до синтеза данных для агентов, формируя полный стек компетенций — от низкоуровневых визуальных алгоритмов до обучения моделей и внедрения верхнеуровневых агентов.
В 2025 году он опубликовал открытую многомодальную модель Kimi-VL в качестве первого автора, самостоятельно разработанный визуальный энкодер MoonViT нативно поддерживает ввод сверхвысокого разрешения и сочетается с возможностью длинного контекста 128K, что позволило Kimi впервые обладать многомодальной способностью понимания длинных текстов, включая чтение длинных видео и документов, и заложило техническую основу для всей многомодальной функциональности Kimi.
На этапе K2 он активно участвовал в разработке оптимизатора MuonClip, совместно с механизмом QK-Clip преодолевая отраслевую проблему колебаний при обучении крупных моделей, обеспечив реализацию «нулевых пиковых потерь» при обучении с объемом в 15,5 триллиона токенов и значительно снизив вычислительные затраты и риски; на этапе K3 под его руководством была создана конвейерная система синтеза данных для агентов, позволившая модели самостоятельно генерировать высококачественные обучающие данные, что стало ключевым фактором для вывода K3 в первый мировой турнир по таким сложным задачам, как программирование и агенты.
Для Кими его вклад охватывает весь путь эволюции мультимодальных возможностей.
Цю Бовэнь:
Цю Бовэнь (Bowen Qu / Brian Qu) входит в команду по пост-обучению моделей. Он получил степень бакалавра в Школе электроники, информатики и связи Университета науки и технологий Хуачжун и степень магистра в Школе электроники Пекинского университета. Его исследования сосредоточены на многомодальных крупных моделях, включая многомодальное усиленное обучение, визуально-языковые модели, AI-агенты и оценку качества контента AIGC.
После присоединения к Moonshot, Цю Бовэнь сосредоточил свою основную работу на развитии мультимодальных возможностей модели Kimi, активно участвовал в проекте Kimi-K2.5 и участвовал в разработке направления естественного мультимодального усиленного обучения. Kimi-K2.5 — это нативная мультимодальная интеллектуальная модель, выпущенная Moonshot, с общим количеством параметров 1 Т и активированными параметрами 32 млрд.
Цю Бэньвэнь разработал оригинальную систему многосемантического усиленного обучения, которая выходит за рамки традиционного подхода многосемантических моделей, предполагающего сначала выполнение визуальной дообучки с наблюдением, а затем начало усиленного обучения. Он предложил метод обучения, начинающийся с чисто текстовой модели вывода без визуальной дообучки с наблюдением, и напрямую получающий визуальные способности вывода через визуальное усиленное обучение, тем самым избегая влияния низкокачественных визуальных данных на исходные языковые способности вывода модели.
Исследования Цю Бэньвэня начались с направления оценки качества контента AIGC, соответствующие результаты были опубликованы на международных конференциях ICME 2024, CVPRW 2024 и других. В частности, статья, опубликованная на ICME 2024, предложила включить текстовые промпты в систему оценки качества генерируемых изображений, чтобы решить проблему того, что существующие системы оценки AI-сгенерированных изображений уделяли внимание только эстетике и четкости, игнорируя соответствие сгенерированного содержания пользовательским инструкциям. Была создана оценочная система, охватывающая как визуальное качество, так и степень выполнения инструкций, что повысило всесторонность оценки AI-сгенерированного контента и его согласованность с человеческим восприятием.
Цю Бовэнь также указан в списке участников, внесших вклад в мультимодальные версии серии Kimi. Как молодой исследователь, путь Цю Бовэня в исследованиях пролегает от построения систем оценки к развитию возможностей моделей, а затем — к разработке продвинутых возможностей агентов. Его результаты тесно соответствуют реальным потребностям отрасли и напрямую способствуют итеративному улучшению моделей промышленного уровня.
Лу Эньчжэ:
В списке из более чем четырехсот участников Kimi K3 Лу Эньжэ не занимает самое первое место по порядку подписей, но его действия исключительно точны. Каждый его результат направлен на ключевые болевые точки внедрения крупных моделей и он является ключевым создателем эффективной вычислительной системы Kimi.
Исследовательские направления Лу Эньчжэ можно точно описать тремя словами: длинный, быстрый, экономичный. Основная цель — позволить крупным моделям обрабатывать более длинные тексты с меньшими затратами и более высокой скоростью. Для Kimi он отвечает за полный цикл повышения эффективности — от обучения до вывода.
В феврале 2025 года он в качестве первого автора опубликовал механизм смешанного блочного внимания MoBA, перенеся идею выбора экспертов MoE на слой внимания, чтобы модель при обработке запросов вычисляла только наиболее релевантные блоки контекста. При разреженности 95% эффективность совпадает с полным вниманием, обеспечивая ускорение вывода на миллионы токенов в 6,5 раза и на десятки миллионов токенов — в 16 раз, что напрямую закрепило базовую архитектуру сверхдлинного контекста Kimi.
В день публикации эта статья была представлена одновременно с статьей DeepSeek о NSA и стала самым обсуждаемым инцидентом столкновения технологий в сфере крупных моделей в Китае за тот год; еще большее подтверждение ее инженерной ценности — до того как эта система была принята в качестве Spotlight-статьи на NeurIPS 2025, она уже стабильно обрабатывала в продакшн-среде Kimi запросы пользователей с длинным контекстом в течение почти года.
Кроме того, от MoBA до Kimi Linear, он активно участвовал в проектировании архитектуры, упорно оптимизируя эффективность вывода на аппаратном уровне; на стороне обучения его участие в распределенной реализации оптимизатора Muon позволило достичь оптимального использования памяти и эффективной коммуникации, что реально снизило вычислительные затраты на обучение крупных моделей. Включая AttnRes, а также технические отчеты по K1.5, K2 и Kimi-VL, его публикации полностью охватывают весь технологический цикл эффективных крупных моделей.
Внутри команды он постоянно работает с Цюй Цзечжуном, одним из авторов-корреспондентов статьи о MoBA: один берет на себя инициативу, другой контролирует направление — их сотрудничество слаженное.
Ван Ючжи:
Ван Ючжи является исследователем Moonshot AI и одним из наиболее часто упоминаемых авторов в технических отчетах серии Kimi.
От K1.5 в январе 2025 года до Kimi K3 в июле 2026 года его имя встречается почти в каждом техническом документе этой компании, охватывая визуальные, аудио, архитектуры внимания, оптимизаторы обучения, флагманские модели и даже передовые рамки управления рисками ИИ.
Он получил степень бакалавра в Сианьском университете электроники и электротехники и докторскую степень по кафедре электронной инженерии в Циньхуа-университете; после присоединения к исследовательскому институту Megvii работал инженером-исследователем; с 2024 года работает исследователем в Moonshot AI по настоящее время.
До присоединения к Moonshot, его исследования были сосредоточены на вычислительной фотографии и низкоуровневом зрении. Среди его ключевых достижений: статья в качестве первого автора на ECCV 2020 по шумоподавлению RAW-изображений на мобильных устройствах, которая до сих пор считается одной из эталонных работ в области мобильной визуализации; победа в номинации raw-RGB на конкурсе NTIRE 2019 по реальному шумоподавлению в составе команды Megvii; участие в качестве соавтора в классической работе в области распознавания символов EAST (CVPR 2017, более 2500 цитирований).
Во время работы в Moonshot, он участвовал в подписании десяти технических документов, включая: K1.5, K2, K3, Kimi-VL, Kimi-Audio, MoBA, Muon, Kimi Linear, четыре статьи по архитектуре и эффективности Attention Residuals, а также передовую рамку управления рисками ИИ.
Стоит отметить, что он является соавтором всех четырех статей компании по архитектуре и эффективности — такая охватывающая вовлеченность редка среди примерно четырехсот участников. Конкретные обязанности него в K3 пока не раскрываются.
Мао Шаогуан:
Мао Шаогуан — ключевой специалист в технической линии Kimi Agent, участвовал во всех этапах разработки четырех поколений флагманских продуктов: K2, K2-Thinking, K2.5 и K3, а также является одним из немногих исследователей в отрасли, прошедших полный цикл двух парадигмальных смен в сфере Agent.
До присоединения к Moonshot он был одним из первых специалистов в стране, реализовавших агентов.
Окончил магистратуру по компьютерным наукам в Тсингхуа, занимал первые места среди 0,2% студентов и получил государственную стипендию. Работал исследовательским ассистентом в Китайском университете Гонконга и проходил стажировку в группе речевых технологий Microsoft Asia Research Institute. После окончания университета работал в Microsoft почти шесть лет, пройдя путь от инженера-исследователя до старшего инженера-разработчика.
В начале 2023 года участвовал в разработке TaskMatrix.AI, обеспечив подключение ChatGPT к сотням тысяч API; позже совместно предложил метод Solo Performance Prompting, позволяющий одноранговой модели исполнять несколько ролей для симуляции взаимодействия нескольких агентов, соответствующие технологии были внедрены в Microsoft 365 Word.
Это был «эпоха фреймворков» агента — все способности зависели от внешних инструментов и направлялись подсказками, и он был непосредственным участником и строителем этого технологического подхода.
Но Мао Шаогуан, который сам прошел этим путем, первым увидел ограничения старой модели. В июне 2025 года он написал в Zhihu: «Этот путь становится все менее интересным, ощущается ускоренное угасание».
После присоединения к Moonshot в феврале 2025 года он полностью переключился на энд-то-энд подход «модель как агент». За всего четыре месяца он участвовал в разработке первого агентского продукта Kimi — Kimi Researcher:
Обучен исключительно с помощью энд-ту-энд усиленного обучения без каких-либо предустановленных процедур, выполняет в среднем 23 шага рассуждений для одной задачи, самостоятельно просматривает 206 веб-страниц и способен генерировать исследовательские отчеты объемом до 10 000 слов с соблюдением нормативных ссылок, достигая результата 26,9% на базе HLE — новый мировой рекорд на тот момент. Он также является одним из двух авторов официального технического описания этого продукта.
После этого он полностью участвовал в разработке четырех поколений флагманских продуктов от K2 до K3. Показатель HLE вырос с 8,6% до 26,9%, и эта кривая производительности, почти полностью управляемая обучением с подкреплением, является отчетом о его новой технологической линии.
От подключения API для расширения возможностей крупных моделей до того, как модели самостоятельно научились вызывать инструменты и выполнять сложные задачи, профессиональный путь Мао Шаогуаня за последние десять лет точно отражает эволюцию индустрии агентов от «сборки из компонентов» к «естественному росту». Участвуя лично в старой парадигме и одновременно прокладывая новый путь, его взгляды на отрасль опираются на самые надежные практические результаты.
Цин Жуоюй (Ruoyu Qin):
Цин Жуюй — аспирант-докторант лаборатории MADSys, кафедра информатики, Циньхуа University, под руководством доцента Чжан Минсина. Его исследовательские интересы сосредоточены на эффективных системах машинного обучения, включая два основных направления: масштабируемое распределенное обслуживание вывода крупных языковых моделей и системы rollout для обучения с подкреплением.
Mooncake, разработанная Цинь Жуоюем в сотрудничестве с командой Moon Dark Side, представляет собой декомпозированную архитектуру вывода, основанную на KVCache. Эта архитектура разделяет этапы Prefill и Decode на отдельные кластеры, а также объединяет неиспользуемые ресурсы CPU, памяти и SSD в GPU-кластере в распределенный кэш-пул. Данный результат был отмечен премией имени Эрика Ридела за лучшую статью на ведущей конференции по хранению данных FAST 2025.
Mooncake — это производственная платформа с уже реализованными приложениями; в аннотации статьи прямо указано: «Mooncake is the serving platform for Kimi». При реальной нагрузке Mooncake повышает объем обрабатываемых запросов Kimi на 75%; в сценариях с длинным контекстом эффективная пропускная способность увеличивается на 59%–498%. В настоящее время система развернута на тысячах узлов и ежедневно обрабатывает более 100 миллиардов токенов.
В 2024 году «Луна в тени» совместно с лабораторией MADSys Тсингхуа выпустила проект Mooncake с открытым исходным кодом (репозиторий: kvcache-ai/Mooncake); на данный момент количество звезд на GitHub превысило 6000. Соответствующие данные и информация доступны в статье на arXiv (номер 2407.00079), на официальном сайте факультета информатики Тсингхуа и в репозитории проекта.
После Mooncake исследования Цинь Жоюя продолжили углубляться в направление систем рассуждений. Статья Seer, написанная им как первый автор, была принята в OSDI 2026; эта работа решает узкое место производительности rollout в обучении с подкреплением с помощью технологий разделения rollout, контекстно-зависимого планирования и групповой спекулятивной декодирования, обеспечивая максимальное повышение пропускной способности rollout на 2,04 раза и снижение задержек в хвосте распределения на 72–94%. Другая статья, написанная им как первый автор, Prefill-as-a-Service, предлагает дальнейшую концепцию архитектуры следующего поколения для совместного использования KVCache между центрами обработки данных.
Цин Жуоюй также указан в списке участников проекта K3. Производительность продукта крупных моделей обеспечивается двумя аспектами: разработка модели определяет потенциал модели, а системная инженерия — доступность и эксплуатационные расходы сервиса в условиях высокой нагрузки.
Сейчас конкуренция в индустрии крупных моделей постепенно переходит от соревнования в способности к обучению к соревнованию в инженерных способностях обслуживания. Как аспирант, Цин Жуоюй смог добиться результатов уровня лучшей статьи на ведущих конференциях в этой области, что связано с тем, что его исследования напрямую ориентированы на производственные сценарии, а его результаты внедрены в реальные бизнес-системы.
Юань Эньминь:
Ключевые исследователи команды Kimi от Moonshot, чьи научные интересы охватывают вычислительную биологию, системы рекомендаций и крупные модели, участвовали во всех этапах технологической эволюции основных моделей Kimi.
Ранее он работал в группе Цзяньяна Чжэна в Институте междисциплинарной информации при Тсингхуа University, занимаясь исследованиями в области ИИ для фармацевтики. В 2020–2021 годах его исследование по фреймворку репозиционирования препаратов от гриппа было опубликовано на предпринт-сервере bioRxiv и в журнале «Signal Transduction and Targeted Therapy», а также были опубликованы результаты, связанные с разделением нуклеокапсидного белка, в журнале «Protein & Cell».
В 2022–2023 годах Юань Эньмин работал в лаборатории Ноев ковчег компании Huawei, сосредоточившись на исследованиях в области рекомендательных систем; его результаты были представлены на нескольких международных ведущих академических конференциях. В частности, его статья с первым авторством по многоаспектному последовательному рекомендованию была включена в SIGIR 2022, а другие совместные работы были представлены на CIKM 2022 и WWW 2023.
После присоединения к Moonshot, Юань Эньминь активно участвовал в разработке нескольких поколений ядерных моделей и технологических проектов Kimi. Публично подтвержденные проекты с его участием включают технический отчет по усилению обучения Kimi k1.5, исследование технологии MoBA, технический отчет Kimi-VL, технический отчет о крупной модели Kimi K2, технический отчет Kimi Linear, технический отчет о многомодальной модели Kimi K2.5 и технический отчет о флагманской крупной модели Kimi K3.
Его область участия охватывает несколько ключевых технологических направлений, включая обучение с подкреплением, мультимодальные возможности, архитектуру базовых моделей и системы с длинным контекстом, полностью охватывая цикл итераций трех поколений флагманских моделей Kimi от k1.5 до K3 и являясь одним из ключевых разработчиков команды с наиболее широким охватом технологий.
На данный момент в открытых источниках не раскрыты конкретная должность Юань Эньмина в Moonshot и его детализированные обязанности в области исследований. Согласно публичным следам авторства, его междисциплинарный исследовательский бэкграунд обеспечивает ему возможность участвовать в различных технических направлениях крупных моделей, делая его важным постоянным участником процесса развития технологической системы Kimi.
Сюй Вэйсинь:
Сюй Вэйсин является исследователем Moonshot AI, его направления исследований включают базовую архитектуру крупных моделей, эффективные механизмы обучения и оптимизацию механизма внимания.
Сю Вэйсинь активно участвовал в разработке нескольких поколений ядерных моделей и базовых технологий Kimi, его имя фигурирует в публичных проектах, охватывающих весь цикл продукта от k1.5 до K3. После выпуска K3 официальный представитель Moonshot официально раскрыл три ключевые собственные технологии — оптимизатор Muon, линейное внимание Kimi Linear и внимание с остатками (Attention Residuals). Сю Вэйсинь — единственный на данный момент проверяемый участник, чье имя указано в трех соответствующих научных статьях по этим ключевым технологиям и занимает место в топ-15 по значимости вклада, являясь одним из ключевых разработчиков, обеспечивших повышение производительности архитектуры K3.
В плане конкретных достижений, в статье об оптимизаторе Muon, опубликованной в феврале 2025 года, он занимает восьмое место в списке авторов; этот оптимизатор обеспечивает вычислительную эффективность, примерно вдвое превышающую эффективность AdamW, и он также участвовал в разработке последующей открытой реализации обучения Moonlight;
В технической статье Kimi Linear, опубликованной в октябре 2025 года, он занимает 15-е место; предложенная в этой архитектуре механизм KDA позволяет сократить объем KV Cache до 75%, а в сценариях с миллионами токенов увеличить пропускную способность декодирования до 6 раз;
В статье «Attention Residuals», опубликованной в марте 2026 года (одна из двух ключевых инноваций архитектуры K3), он занимает четвертое место и является первым из ключевых соавторов после трех совместных первых авторов; соответствующие технологии глубоко интегрированы в базовую архитектуру модели Kimi K3.
Кроме того, его имя фигурирует в списках участников технических отчетов по Kimi k1.5, Kimi-VL, Kimi K2 и K2.5, а также в последнем техническом отчете по флагманской модели Kimi K3, охватывая несколько ключевых направлений разработки, включая базовые модели, мультимодальность и обучение с подкреплением. Следует подчеркнуть, что его имя отсутствует в списке авторов статьи MoBA, и между ними не существует публично доступной связи в разработке.
Кроме того, он участвовал в нескольких исследованиях в области трехмерного зрения, включая OccDepth — дополнение трехмерных семантических сцен, PVD-AL — активное обучение с дистилляцией и ACCV 2024 — реконструкцию неявных SDF. Его научные достижения охватывают такие специализированные области, как сжатие моделей, трехмерная реконструкция и понимание семантических сцен.
Согласно публичным следам его исследований, путь Вэйсина Сюй постепенно расширился от развертывания моделей на краю и трехмерного визуального восприятия к инновациям в базовой архитектуре крупных моделей. Он долгое время специализируется на эффективных вычислениях, охватывая широкий спектр технологий и являясь ключевым участником непрерывной итерации базовой технологической стека Moonshot.
Ду Чэньчжуан:
Ду Чэньчжан — ключевой исследователь Moon Shadow, основной специалист команды, отвечающий за усиление обучения с подкреплением и расширение возможностей рассуждения.
Он получил степень бакалавра по специальности «Информационное управление и информационные системы» в Пекинском аэрокосмическом университете, а затем поступил в аспирантуру в Институте междисциплинарных информационных исследований Циньхуа, известном как «Хуанпу» для специалистов в области крупных моделей.
Во время учебы в Тсингхуа он учился у известного ученого в области искусственного интеллекта Чжао Сина и присоединился к известной лаборатории MARS (Лаборатория мультимодального и автономного рассуждения), сосредоточившись на мультимодальном машинном обучении, обучении с подкреплением и механизмах усиления крупных языковых моделей.
Во время обучения в аспирантуре он, как основной автор, разработал революционную архитектуру ChatDB, впервые предложив идею «использования баз данных в качестве символических модулей памяти для усиления крупных моделей», что вызвало широкий отклик в академических и промышленных кругах ИИ того времени.
Чтобы раньше накопить практический опыт работы с промышленными крупномасштабными системами, он также в период обучения в аспирантуре присоединился к Пекинскому институту искусственного интеллекта Хайхуа в качестве стажера и активно участвовал в фундаментальном исследовательском проекте по созданию базовой системы с нуля. Это позволило ему накопить значительный опыт в области мультимодальности и усиленного обучения, а также сформировать более глубокое понимание систем и алгоритмов на низком уровне.
После окончания университета он присоединился к Moonshot AI и часто появляется в технических отчетах по ключевым моделям. Он непосредственно участвовал в значимой статье по изучению законов масштабирования обучения с подкреплением «Kimi k1.5: Scaling Reinforcement Learning with LLMs», а также сыграл роль ключевого участника в технических отчетах по флагманским моделям Kimi K2 и K2.5.
Он также глубоко участвовал в разработке мультимодальной зрительной большой модели Kimi — «Kimi-VL Technical Report» в качестве ключевого соавтора, сосредоточившись на повышении способности большой модели к восприятию и мультимодальному глубокому выводу сложных изображений, диаграмм и реальных визуальных данных.
Основное направление деятельности Ду Чэньчжуана — инженерия обучения масштабных языковых моделей (LLM), сосредоточенная на распределении ресурсов, стабильном обучении и предельной оптимизации системы для моделей размером в триллионы параметров (архитектура MoE) в суперкластерах; а также интеграция усиленного обучения и мультимодальности, исследование того, как модели могут преодолеть пределы интеллекта в сложных долгосрочных задачах рассуждения с помощью самообучения и усиленного обучения, а также достижение эффективного базового слияния визуальной информации и языковых моделей.
Яньру Чэнь:
Яньру Чэнь — ключевой исследователь Moonshot, специализирующийся на разработке и внедрении базовой архитектуры крупных моделей, технологий работы с длинными текстами, оптимизации вычислительных ресурсов и мультимодальных систем.
Как соавтор статьи «Attention Residuals», он участвовал в перестройке потока информации в глубоком направлении крупных моделей, успешно преодолев отраслевые проблемы низкой эффективности обучения сверхглубоких сетей и блокировки потока информации.
Как соавтор MoBA (Mixed Block Attention), он возглавлял и участвовал в разработке ключевых базовых механизмов Kimi, решив с помощью блочного разделения внимания проблему чрезмерного потребления вычислительных ресурсов при обработке сверхдлинных контекстов в миллионы токенов как на этапе предварительного обучения, так и при выводе, став основой для достижения экстремального снижения затрат и повышения эффективности Kimi.
В то же время он является соавтором статьи «Muon is Scalable for LLM Training» и активно участвовал в разработке значимого открытого проекта Moonlight и его базового оптимизатора Muon, используя матричную ортогонализацию для преодоления традиционного AdamW и эффективно сократив вычислительные затраты при распределенном обучении моделей размером в триллионы параметров.
В ходе итерации флагманской модели он глубоко интегрировал весь жизненный цикл разработки предыдущих флагманских версий Kimi (k1.5, K2, K2.5, K3), решив проблемы стабильности и распределения ресурсов при масштабном усилении обучения и расширении до триллионов параметров.
Кроме того, в ходе технических разработок Kimi в области мультимодальности (Linear, VL, Audio) он активно исследовал инновационные линейные механизмы внимания, отличные от традиционных Transformer, и возглавил практическую реализацию технических отчетов Kimi по визуальной и аудиомультимодальной технологии, эффективно устранив узкие места в производительности при нижнем уровне слияния мультимодальных потоков информации.
Лю Шаовэй:
Лю Шаовэй является ключевым членом лаборатории MADSys, ведущей лаборатории компьютерных систем Тсингхуа, а также ведущим экспертом команды базовой инфраструктуры (Infra) компании Moonshot.
Когда вы восхищаетесь тем, что Kimi обладает триллионами параметров, а цена его API крайне низка, за этим стоит упорная работа его команды над «искусством экстремальной квантификации». Он долгие годы углубленно занимается экстремально низкозатратным выводом для моделей с триллионами параметров, нативной квантификацией и проектированием масштабных распределенных вычислительных топологий.
На самом жестком открытом сообществе ИИ на Reddit — LocalLLaMA — он опубликовал подробную техническую статью под названием «Kimi infra team: Quantization is not a compromise, it's the next paradigm» в качестве официального эксперта Kimi, вызвавшую шквал откликов в зарубежном сообществе энтузиастов. В этой статье подробно раскрываются крайне сложные детали нативного формата квантования Native INT4, лежащего в основе Kimi K2 и K2.5.
Он является одним из ключевых соавторов MoBA (смешанного блочного механизма внимания) и активно участвовал в разработке распределенной архитектуры для значимого открытого проекта Moonlight и его базового оптимизатора Muon, значительно сократив вычислительные затраты при распределенном обучении моделей размером в триллионы параметров за счет матричной ортогонализации.
Он также является одним из основателей и сопровождающих кода ключевого открытого проекта KTransformers от Moonshot, лично преодолев вычислительный барьер для гибридного вывода моделей MoE с триллионами параметров в гетерогенной кластерной среде.
Чэнь Гуаньдуо:
Чэнь Гуаньдуо — ключевой исследователь команды Infra компании Moonshot AI. Он обладает исключительными междисциплинарными навыками в области «системы + алгоритмы», его исследования сосредоточены на инфраструктуре больших моделей (Infra), архитектуре эффективных механизмов внимания (Efficient Attention Architecture), ускорении тонкой настройки больших моделей и оптимизации масштабируемого хранения и поиска.
Он получил степень бакалавра и магистра в отделении информатики Университета Фудань, где заложил прочную профессиональную основу в области распределенных систем и нижележащей архитектуры. Затем он продолжил обучение в Наньянском технологическом университете и Гонконгском научно-техническом университете, где учился у известных ученых в области высокопроизводительных вычислений и инфраструктуры крупных моделей Юань Бинхан и Ло Сичиан, приобретя передовые академические знания и опыт разработки.
Прежде чем присоединиться к Moonshot, он прошел глубокую подготовку в ключевых подразделениях ведущих интернет-компаний. Он работал исследовательским стажером в команде разработки баз данных ByteDance и в инфраструктурной команде Meituan, активно участвуя в разработке и оптимизации архитектуры промышленных высокопроизводительных масштабируемых распределенных систем.
В течение этого периода, как ключевой автор, он напрямую представил два значимых результата. В области базового хранения он разработал и опубликовал «Oasis», предложив оптимальный фильтр диапазона с непересекающимися разделами, который напрямую решил проблему индексного узкого места в базах данных при масштабных диапазонных запросах;
На уровне приложений он представил «Gar», значительно повысив точность крупных моделей в точном понимании сложных намерений человека и преобразовании их в SQL-запросы к базам данных (Text-to-SQL) с помощью метода «генерации и упорядочивания».
Чэнь Гуаньдуо официально присоединился к Месячной Тени в марте 2025 года. Как ключевой сотрудник команды Infra, он не только является одним из основных авторов флагманских крупных моделей Kimi K2 и Kimi K2.5, но и достиг значительных технологических прорывов в таких областях, как ускорение тонкой настройки крупных моделей, эффективные архитектуры внимания и даже перестройка последней сетевой архитектуры.
Чтобы решить проблему чрезмерного потребления видеопамяти при тонкой настройке крупных моделей, Чэнь Гуаньду возглавил публикацию статьи «Ce-lora», в которой предложил вычислительно эффективный метод тонкой настройки LoRA. Эта технология снижает потребление видеопамяти и вычислительные затраты при тонкой настройке параметров крупных моделей, напрямую повышая пропускную способность обучения на инфраструктурном уровне и заслуживая название «похудение видеопамяти» для тонкой настройки крупных моделей.
面对长文本计算复杂度呈平方级爆炸的问题,他参与研发并发布了在开源社区引起轰动的《Kimi Linear》架构。这是一种富有表现力且高效的线性注意力架构,在保持模型强大表征能力的同时,极大降低了长文本计算的复杂度,成功将KV缓存(键值缓存)占用最高减少75%,并在百万级文本长度下实现了6倍的解码吞吐量,成为Kimi持续深耕长文本技术壁垒的坚实基础。
He is also one of the co-authors of "Attention Residuals".
От фильтров хранения на низшем уровне до вычислительно эффективных алгоритмов тонкой настройки и революционной архитектуры Transformer следующего поколения — карьера Чэнь Гуаньдуо идеально соответствует отраслевой парадигме современных крупных моделей, переходящей от «просто увеличения параметров» к «достижению максимальной вычислительной эффективности и инженерной реализации».
Заключительное слово
Команда разработчиков K3 традиционно остается скромной и загадочной; в процессе анализа данных нам было сложно точно определить конкретные обязанности и полные биографии всех членов команды. Однако эта внушительная список уже дает ответ: почему именно «Темная сторона Луны»? Почему они способны оправдать сверхвысокую оценку в 700 миллионов долларов на человека?
Эта группа молодых людей, средний возраст которых меньше 30 лет, — это системные архитекторы, действительно понимающие экономику вычислительных мощностей. От оптимизации распределения хранилища, удостоенной лучшей статьи на ведущих конференциях, до фундаментальных инноваций в архитектуре механизма внимания, они довели инженерную эффективность «длинный, быстрый, экономичный» до предела.
正是这种从顶层算法到底层硬件的全栈打通,赋予了月之暗面打破“算力同质化”魔咒的核心壁垒。
Еще один интересный деталь — в конце списка всех участников Kimi K3 также стал важным членом всей исследовательской команды. Создатель и созданный теперь стоят бок о бок в одном списке — «золотая эра» китайских крупных моделей уже пришла с гулом.
