2026年7月、月之暗面はKimi K3モデルをオープンソース化し、初めて401人の貢献者名簿を公開した。同社の最新の評価額は315億ドルに達し、チームは約300人以上で、平均年齢は30歳未満、1人あたり7億ドルの評価を担っている。核心チームには、アルゴリズム責任者の周昕宇、アーキテクトの吳育昕、CTOの張宇韜を含む3人の共同創設者と、清華大学やCMUなどのトップ校出身の核心メンバーが含まれる。チームはMoBAハイブリッドブロックアテンションメカニズム、Mooncakeデカップルド推論アーキテクチャ、Muonオプティマイザーなどの基盤技術で複数の革新を達成し、その成果はストレージのトップ会議FAST 2025の最優秀論文賞などの栄誉を受賞した。この若手ギークチームはフラットなマネジメントで知られ、「長、速、省」のエンジニアリング効率を極限まで追求し、中国の大規模モデル分野における重要な存在となっている。

記事執筆者、出典：雷锋网

7月27日、月の裏側はすべての誠意を込めて、フルパワーバージョンの2.8TモデルKimi K3を完全にオープンソース化しました。技術報告の最後で、彼らは初めてKimi K3の実際の貢献者リストを公開し、我々が数え上げたところ、401人のメンバーが含まれていました。これは月の裏側の優秀なチームが一斉に姿を現したと言えるでしょう。

当初估值仅数亿美元的初创团队，如今已成为名副其实的「国产大模型之光」，月之暗面已成为全球牌桌上少数能与Claude Fable 5和GPT-5.6 Sol等顶尖模型抗衡的极客团队。

K3のリリースに伴い、月の裏側の最新の評価額は315億ドル（約2100億元人民元）に急上昇しました。この2100億の評価額を支えているのは、極めて若いチームです。

公開情報によると、月の裏側には約300人以上の従業員がおり、平均年齢は30歳未満です。そのうち80%がI型です。換算すると、一人あたり約7億元人民幣の評価額を担っています。

月之暗面の組織構造は非常にフラットである。月之暗面には5人の創設者がおり、平均して各創設者が40～50人直接担当している。社内では「役職なし、KPIなし、部署の壁なし」で知られ、従業員はいつでも上司に挑戦できる。2025年初頭の振り返り会議で、ある従業員が革新的な提案をした際、楊植麟はその提案よりもさらに革新的な行動を取り、K1の開発を放棄してK2に着手した。

この自由な発想は、会社の「魂」にも反映されている。ロック愛好者である楊植麟は、会議室をRolling Stones、Nirvana、Radioheadなどの伝説的なバンドの名前で命名し、Kimiの会員プランまでAdagio（アダージョ）、Allegro（アレグロ）などの音楽用語で名付けている。

月之暗面は、計算力とデータがますます同質化する今日において、「センス」が差別化の壁を築く核心的な駆動力であると強く信じています。このセンスは、モデルの洗練にとどまらず、人材に対する厳選と強い欲求にも深く反映されています。

月之暗面はCEOを雇用することを好んでおり、「起業家の光環」や「ギャンブラーの遺伝子」を持つ人物を特に高く評価している。公開情報によると、社内には少なくとも50人が起業またはスタートアップ企業に参加した経験を持っている。過去1年間で、月之暗面が採用した新入社員のうち、100人以上が内部紹介によるものである。

本日、リストに従い、徹底的に調査し、K3貢献者に関するすべての信頼できる情報をここにまとめました。このトップレベルのハッカーグループの核心的な背景と実力がすべて明らかになります。

01 Kimi 技術体系の基盤

周昕宇：

周昕宇は月之暗面の核心共同創設者の一人であり、アルゴリズムチームの責任者でもある。

周昕宇と楊植麟は以前から知り合いで、興味深い細部として、周昕宇は清華大学のSplayバンドのギタリストであり、ドラマーは楊植麟だった。

月之暗面に加わる前、周昕宇は曠視でアルゴリズムの量産およびモバイル端末モデルの研究に従事していた。彼は当時の曠視の基礎研究責任者で、現在の階躍星辰のチーフサイエンティストである張祥雨と密接に協力し、軽量ネットワークの名作であるShuffleNetを核心著者として直接作成した。

周昕宇の主な研究分野は、大規模モデルアルゴリズムの量産化であり、最先端の実験室アルゴリズムを高効率かつ低コストで大規模生産ラインシステムに変換する能力に長けています。また、ハイブリッドアーキテクチャの最適化にも精通しており、Redditコミュニティでの技術Q&A（AMA）で、Kimi K3 KDAハイブリッドアーキテクチャとNoPE MLAの比較優位性を最初に解説し、このアーキテクチャが事前学習および強化学習においてより少ない計算リソースを消費し、より高速であることを実証しました。

呉育昕：

呉育昕は月の裏側の共同創設者の一人です。また、彼はAI分野のトップエキスパートで、ディープラーニング、コンピュータービジョン（CV）、大規模言語モデル（LLM）の底层エンジニアリングアーキテクチャとインフラストラクチャーにおいて深い専門知識を持っています。

呉育昕と楊植麟は同じ教育背景を持ち、清華大学コンピュータ科学科で学士号を取得した後、米国カーネギーメロン大学（CMU）でさらに深造した。彼はMeta AI研究ラボ（FAIR）で研究エンジニアを務め、その期間中に複数のコンピュータビジョンの画期的な技術を主導し、貢献した。

月の裏側を楊植麟と共同で設立する前、呉育昕は深層学習とコンピュータビジョンの分野で、すでに2つの業界標準級の重要な成果を残していた：

一つは、Detectron2の主要な創設者および開発者の一人として、このプロジェクトが世界中のコンピュータビジョンの研究エコシステムを再定義し、数多くのビジョン大規模モデルとオブジェクト検出プロジェクトの「汎用基盤」となったことです。

さらに革新的なのは、2018年にトップ研究者である何愷明と共同でGroup Normalizationに関する重要な論文を発表し、ECCV 2018の最優秀論文奨励賞（Best Paper Honorable Mention）を受賞したことです。

この古典的な手法は、小サンプル学習における従来のBatch Normalizationの致命的なボトルネックを一気に解決した。このように、わずか一〜二行の底层革新で「世界のAI学習ルールを書き換える」能力により、呉育昕はオープンソース界で高い技術的影響力を持っている。

月の裏側では、彼が基盤を築いた人物である。彼は大規模モデルのアーキテクチャとトレーニング効率の最適化に深く関与し、世界中のPyTorch開発者大会に直接参加して、Kimiがグローバルなオープンソースインフラにどのように基盤的な貢献をしているかを世界中に対して徹底的に解説した。

呉育昕の専門分野は、Kimiが次世代のマルチモーダル長テキストの限界に挑戦するための最後のピースを完璧に補完した。彼は高性能ディープラーニングシステムの最適化に長け、万亿パラメータ規模のモデルをより安定して、より高速に、より少ないメモリで動作させるという課題を解決している。これは、Kimiが長テキストおよび高並列処理においてスムーズな体験を維持するための技術的壁である。

ディープラーニングのマイルストーンであるMoCo v1の主要著者の一人として、彼はKimiに業界最強の脳（自然言語理解）を備えさせるとともに、現実の物理世界を深く理解するための目（マルチモーダルビジョン）を育てています。

張宇韜：

張宇韜は月之暗面の共同創設者の一人であり、同時に月之暗面のCTOでもある。彼は楊植麟と清華大学の同門師兄弟であり、智譜の創設者である唐杰は彼の先生である。

2016年、張宇韜は楊植麟と共同で「循環智能」を設立し、その後、楊植麟と共に「月の裏側」を設立した。楊植麟が「月の裏側」の「ナビゲーター」であるならば、張宇韜は「智能」という巨大な船の推進システムを極限まで調整する首席エンジニアである。Kimiが長文、複雑な推論、およびAgentタスク実行において飛躍的な進化を遂げられたのは、張宇韜の貢献が不可欠である。

月の裏側に加わる前、彼は知識グラフと異種データ融合の分野で複数の「業界レベル」の注目すべき成果を残していた。

彼が最も広く知られている技術的な業績の一つは、技術責任者として大規模な学術データ分析プラットフォームAMinerの開発を主導したことです。現在、世界中の千万単位の研究者にサービスを提供するこのプラットフォームの背後にある核心的な異種データ統合技術には、張宇韜が清華大学で博士課程を修業中に構築した基盤技術が含まれています。この「膨大な知識を機械がどのように吸収し、理解し、検索するか」という深い洞察は、Kimiの超長テキスト処理能力の技術的基盤を直接構成しています。

学術的な貢献として、彼はKDDやCIKMなどのコンピュータ分野のトップ会議で多数の高被引用論文を発表しています。彼は知識グラフを活用してAIに「論理的感覚」を備えさせるだけでなく、循環知能時代に「千循ゼロショットAIプラットフォーム」の開発を主導し、業界の大規模モデルを企業サービスのシナリオでスケールさせて実現しました。

張宇韜の専門分野は、AIが「会話できる」から「作業をこなせる」へと移行する各節点を正確に予測した。彼は長コンテキストウィンドウ技術と動的拡張ネットワークアーキテクチャの推進に注力し、AIが膨大な情報の中でも「清醒を保つ」方法を解決している。

2026年7月の最新技術サミットで、彼は業界のエンジニアリングにおける3つの技術的流れを明確に整理した。2023年は「どう質問するか」を研究するPrompt時代、2024年は「十分な情報を提供する」Context時代へと進化し、2026年には大規模モデルがHarnessエンジニアリングの新たな段階に突入した。現在、彼はチームを率いて、「どのように実行環境を構築し、AIが問題が発生した際に自ら閉ループで修正できるか」というAgentの最終的な戦場に挑んでいる。

許欣然：

許欣然是月之暗面（Moonshot AI）工程副總裁兼AI基礎設施負責人。

また、フルスタックな基盤開発の経験を持ち、過去に曠視ではMegEngine（天元）ディープラーニングフレームワークと十億級ベクトル検索システムの開発を担当しました。現在は、月の裏側の大規模モデルのトレーニング、推論、およびインフラ全体のアーキテクチャ設計を主に担当しています。

大規模モデルの推論側において、Kimiの長文業務シナリオに対応するため、彼とチームはKV Cacheを中心とした分離型推論アーキテクチャ「Mooncake」を共同設計しました。この成果は、プリフィル（Prefill）とデコード（Decode）の段階を完全に分離し、百万単位の超長コンテキストによるメモリとI/Oの負荷を軽減したことで、ストレージのトップカンファレンスFAST 2025の最優秀論文賞を受賞しました。

同時に、MoBA（混合ブロック注意）メカニズムの主要な著者として、ブロックレベルの注意分割を通じて、訓練および推論の両側でKimiのコスト削減と効率向上を実現しました。

モデル訓練側では、彼はオープンソースプロジェクトMoonlightおよびその基盤オプティマイザであるMuonの開発に参加し、行列直交化処理を従来のAdamWに代えて、兆単位のパラメータを有するモデルの分散学習における計算コストを削減しました。

この一連の大規模長テキストトラフィックにおける分散ストレージと推論の実践により、彼はGOSIM Chinaグローバルオープンソースカンファレンスで講演を依頼されました。彼の専門分野は常にフルスタック大規模モデルアーキテクチャに焦点を当て、より少ないFLOPsの損耗とKV Cacheの占有で、高知能な長テキスト推論を実現することに尽力しています。

何蔚然：

月の暗面推論システムの責任者として、彼はトップ会議FAST 2025最優秀論文の主要著者であり、Kimiの長テキスト推論アーキテクチャの実装における核心的な技術リーダーである。Kimi k1.5、Kimi-VL、K2からKimi Linear、Kimi-Audio、さらにMoBA、Muon、AttnResなどの核心アーキテクチャ論文に至るまで、彼の名前は6世代にわたる技術成果に貫かれ、すべての取り組みは常に一つの核心をめぐっている：システム設計によって効率を獲得し、大規模モデルを実用的に可能にする。

月の暗面に加わる前、何蔚然は高効率計算分野で長年従事してきた。清华大学コンピュータ科学科を卒業後、早期はチップ配線と底層パフォーマンス最適化に注力し、曠視時代には自社開発AIチップと低ビット幅ニューラルネットワークの開発を主導した。その後の月の暗面共同創設者である周昕宇と同時に勤務していた——周昕宇は古典的なOCR文字検出ソリューションEASTの最初の発明者である。

2023年に月之暗面に加入後、彼は長年にわたるシステムエンジニアリングの経験を、兆単位のパラメータを有する大規模モデルの推論サービスに実装した。

最も代表的な成果は、KVCache分離型推論アーキテクチャ「Mooncake」である。このシステムは、従来の推論サービスのアーキテクチャの定式を打破し、大規模モデルの最もメモリを消費するメモリキャッシュを分離して集中スケジューリングし、グローバルキャッシュの再利用と精緻なルーティングを通じて、計算リソース規模を変更せずにKimiのリクエスト処理能力を75％以上向上させた。彼は2024年のQConカンファレンスで、このアーキテクチャと継続的なエンジニアリング最適化により、Kimi推論クラスタの単位コストが1年で20倍以上低下したことを明らかにした。

2025年2月、Mooncake関連の論文がFAST会議のエリック・リーダー最優秀論文賞を受賞した。これはストレージシステム分野における最高栄誉の一つである。そのエンジニアリング的価値をよりよく示すのは、論文が正式に受賞する前から、このアーキテクチャがKimiの本番環境で数千ノードにわたり安定して稼働し、毎日数千億トークンのユーザー要求を処理していたことである。

K3技術報告は個々の担当を明示していないが、複数の核心的ブレークスルーは、同チームの技術的流れを継承している：KDA+MLAハイブリッドアーキテクチャにおける従来のプレフィックスキャッシュ無効化の課題に対し、チームはvLLMコミュニティに公式対応実装を貢献した。百万トークンの長距離リクエストに対応するため、クラスタはキャッシュ認識型ルーティングスケジューリング戦略を採用し、キャッシュ再利用効率を最大化した。最終的にK3が提示した成果は、推論コストがClaude Fable 5の38％に抑えられたことであり、KVCache最適化、プレフィックスキャッシュ、コスト制御はいずれもMooncakeシステムの核心的な課題である。

チップの配線から兆級モデルの推論まで、何蔚然の技術路線は一貫して明確だ：システムの効率を徹底的に追求し、エンジニアリング設計によって計算コストを削減する。トップレベルのアルゴリズム研究者がKimiの能力上限を引き上げたとすれば、彼とそのチームが行ったのは、このフラッグシップ級の能力を現実のものとし、より多くの一般ユーザーが手頃で安定して利用できるようにすることである。

02 中堅攻堅・実装レベルの骨幹

杜羽倫：

杜羽倫は月之暗面で事前学習（Pretraining）とスケーリング（Scaling）の分野を担当しています。

彼はアメリカのイリノイ大学シャンペーン校とカーネギーメロン大学の人工知能専攻を卒業後、サーキュラーアイに参加し、研究員およびAI Lab責任者を歴任し、月の裏側の核心技術元老である。

モデルベースの事前学習とスケーリング方向の責任者として、彼の技術的貢献はKimiの歴代のコアフラッグシップベースモデル、およびVL、Audioなどのマルチモーダル全シリーズのアーキテクチャ設計にわたって一貫しています。

底层技术突破中，他是论文《Attention Residuals》、《MoBA（混合块注意力）》以及预训练优化器论文《Muon is Scalable for LLM Training》的共同作者。其工作核心在于：通过块级注意力分割与训练流程重构，缓解超深网络中的信号衰减问题，显著提升万亿级大模型的分布式训练效率。

エンジニアリングのオープンソース層面において、彼はMoonshotAI公式オープンソースプロジェクトの活発なコア貢献者である。コード協力記録によると、杜羽倫はアルゴリズム専門家の蘇劍林と推論システム責任者の何蔚然と高頻度で共同開発およびコードレビューを実施しており、この3人がKimiの百万級長テキストおよびマルチモーダルの効率的な流れを支える基盤技術の閉ループを構成している。

張宇：

張宇は月の裏側のコアアーキテクトであり、大規模言語モデルの効率的・拡張可能でハードウェアに優しいアーキテクチャ設計に注力している。Transformer以外の線形アテンション路線の開拓者として、彼は長文における「長くなるほど遅くなり、非常に高コストになる」というエンジニアリングの呪いを克服することに取り組んでいる。

学術および工学実践において、張宇は豊かな成果を挙げている。彼は残差接続に関する論文『Attention Residuals』の共通第一著者であり、月の裏側の効率的なモデルアーキテクチャの核心的な開発主著者でもある。

他が主導するオープンソースのKimi Linearモデルは、線形アテンション機構を初めて超長コンテキストタスクに成功裏に適用し、画期的な効率向上を実現しました。さらに、彼が知乎などの技術コミュニティで共有した「Kimi Linear開発の軌跡」は、今でも多くの大規模モデルデータエンジニアに必須のガイドとして奉られています。

7Bモデルの基盤を突破し、一戦で兆パラメータ規模のモデルを世界トップクラスに押し上げる中、張宇は学術界と産業界を自在に駆け抜け、トップ級の学術会議やオープンソースコミュニティに多数のハードコアなコードを残してきた。

この一連のブレイクスルーは、彼がコア技術に深く取り組んだ結果です。効率的なモデルアーキテクチャ設計において、彼はモデルの深さ拡張における通信とメモリボトルネックの最適化に注力しました。トレーニングのダイナミクスと効率の向上において、彼は底層の残差フローを再構築することで、大規模モデルにおけるPreNormによって引き起こされる勾配希釈と隠状態爆発の根本的な問題を解決しました。

ライ・グオクン：

賴國堃は楊植麟の清華大学およびカーネギーメロン大学のダブルアルムナイである。

彼はKimiチームの中で論文数が最も多い研究者の一人であり、10本以上の論文を発表している。彼は月の裏側「天才クラブ」の代表的な人物の一人であり、Kimi K3の核心的な貢献者であるだけでなく、学術界で「定義級」の成果を挙げた神様的存在である。

月の裏側に加わる前、ライ・グオクンはNLP（自然言語処理）分野で2つの業界標準級の画期的な成果を残していた。

一つは、世界最大級の機械読解データセットの一つである「RACEデータセット」を構築し、RACEデータセットは中国の学生向け英語試験問題を用いてAIを訓練し、世界の機械読解の基準となりました。

さらに驚異的なのは、彼が学部時代に書いた推薦アルゴリズムに関する論文『Explicit factor models for explainable recommendation』が、10年後の2024年にSIGIR時間検証賞を受賞したことです。これは情報検索分野で最も権威のある賞の一つであり、10年前に発表され、時間の試練に耐え、業界に持続的な影響を与えた論文に授与されます。

月の裏側では、学部段階で「今後10年の技術路線を定義する」能力を備えている人は珍しくない。

賴國堃の専門分野はKimiの核心能力と非常に一致しており、例えば「機械的読解」を得意としており、これはAIが長文書を理解し質問に答える方法を解決するものであり、これがKimiの長文書対応能力の核心技术基盤である。

彼がCMU在籍中に重点を置いた研究の一つはプリトレーニング大規模モデルであり、さらに神経アーキテクチャサーチにも取り組み、AIが自動的により優れたネットワーク構造を設計する方法を研究した。また、説明可能なレコメンデーションシステムにも注力し、AIがコンテンツを推奨するだけでなく、その推奨理由をユーザーに説明できるようにした。

郭海清：

郭海清（Haiqing Guo）は、月之暗面Kimiチームの初期核心開発メンバーであり、チームの元祖級人物として、Kimiの複数世代の核心プロジェクトの開発とイテレーションに全程参加しました。

公開可能で検証可能な参加プロジェクトには、Kimi k1.5技術レポート、Kimi K2技術レポート、注意残差（AttnRes）コアアーキテクチャ論文、Kimi K3技術レポートが含まれます。其中、AttnResはKimi K3の2つのコアアーキテクチャ革新の1つです。

署名のトレースによると、彼はKimiのk1.5からK3に至るまで、すべてのフラグシップバージョンの完全なイテレーションサイクルをカバーし、複数世代の製品の核心的な開発プロセスに参加しています。Kimi技術チームの継続的な核心メンバーです。現在、公開されているチャネルには、彼の具体的な職務や細分化された開発担当内容は明らかにされていません。

チェン・グアンユー：

チェン・グアンユーは、月の裏側で最も若い研究員の一人であり、2009年生まれで17歳。彼は、エロン・マスク（Elon Musk）がX上で「Impressive」と公開して称賛した少年である。

月之暗面が世界を驚かせた2.8兆パラメータのフラッグシップKimi K3をリリースした際、彼は技術者である蘇劍林らと並び、Kimi K3のコアアーキテクチャの基盤となった論文『Attention Residuals』の共通第一著者となった。

彼が開発したアテンション残差（Attention Residuals）メカニズムは、ディープラーニング分野で10年間標準とされてきた残差接続を直接見直し、「学習可能な深度アテンション」を用いてモデルが賢く「振り返る」ことを可能にした。この基盤的な再構築により、モデルの拡張効率は1.25倍向上し、中国の企業が兆単位のトップ級計算リソース競争において、より低いコストでより速く走れるようになった。彼が月の裏側に加わった経緯は非常に奇跡的だ。1年前の彼は、そもそもTransformerが何かすら知らなかったが、あるハッカソンで「人間の第3の機械補助手」というアイデアを生み出し、シリコンバレーのスタートアップに発掘された。7週間後、彼はKimiチームに完全に注目され、破格的に同社の核心研究チームに迎え入れられた。入社1週間目で、彼はあらゆる常識を破り、Kimi内部の48時間極限ハッカソンで総合優勝を獲得した。

杜昂昂：

Kimiの技術報告において、杜昂昂の名前は常に最初に掲載されている。彼は月の裏側のマルチモーダルアーキテクチャの核心メンバーの一人であり、Kimi技術報告で唯一の5世代すべてに参加した研究者である。彼はチーム署名後の第1順位を2回獲得しており、Kimi K3における彼の核心的な貢献はビジョナル分野であると推測される。

月の裏側に加わる前、杜昂昂はコンピュータービジョン分野で二つの重要な基盤を築いていた。

一つは水中顕微視覚分野への深くの取り組みです。本硕七年間、中国海洋大学の水中視覚実験室で、画像がぼやけ、サンプルが限られ、種間の差異が極めて微細な顕微鏡画像の中で、AIが海洋で最も小さな生命を正確に識別できるよう、浮遊生物の顕微画像分類に専念しました。

2020年、彼は第一著者としてGlobal OCEANSに関連研究を発表し、二次特徴モデリングにより細粒度分類の課題を解決した。これは、実験室がこの分野で10年間にわたって行なってきた研究の中で、修士学生が第一著者を務めた唯一の成果である。

彼が曠視科技在籍中に生み出した成果が、業界への影響力においてより重要である。彼が参加したマルチペルソナポーズ推定に関する研究は、コンピュータビジョンのトップ会議ECCV 2020に採択され、論文の累計引用数は300回を超え、人体ポーズ推定分野における重要な参照文献となった。この研究の共同著者には、孫剣や張祥雨などのビジョン分野のリーダーたちだけでなく、後の月の裏側共同設立者である周昕宇も含まれている。

Kimiに参加後、彼は視覚エンコーダ設計、マルチモーダルアライメント、視覚エージェント技術に注力し、特に高解像度画像理解、長時間シーケンス動画解析、マルチモーダル強化学習に精通しています。これらはKimiのネイティブなマルチモーダル能力の核心技術基盤です。さらに、彼の能力は大規模モデル訓練のインフラまで拡張され、最適化器の安定性からエージェントデータ合成までをカバーし、底層の視覚アルゴリズムからモデル訓練、そして上位のエージェント実装に至るまでのフルスタックな能力を備えています。

2025年、第一著者としてKimi-VLのオープンソースマルチモーダルモデルを公開。自社開発のMoonViTビジョナルエンコーダーが超高解像度入力をネイティブでサポートし、128Kの長コンテキスト機能と組み合わせることで、Kimiは初めて長尺動画や長文書のマルチモーダル長テキスト理解能力を備え、Kimi全シリーズのマルチモーダル機能の技術的基盤を確立した。

K2段階では、MuonClipオプティマイザーの開発に深く関与し、QK-Clipメカニズムと連携して大規模モデルのトレーニングにおける振動という業界の課題を解決し、15.5兆トークンという超大規模トレーニングを「損失ピークゼロ」で実現し、トレーニングに必要な計算リソースコストとリスクを大幅に削減した。K3段階では、彼が主導したエージェントデータ合成パイプラインにより、モデルが自ら高品質なトレーニングデータを生成できるようになり、K3がプログラミングやエージェントなどのハードコアタスクで世界トップクラスに躍り出るための重要なデータ基盤を提供した。

Kimiにとって、彼の貢献はマルチモーダル能力の進化の全過程にわたります。

ク・ボウェン：

瞿博文（Bowen Qu / Brian Qu）はモデル後学習チームに所属しており、学士課程は華中科技大学電子情報通信学院、修士課程は北京大学電子学院を卒業しました。彼の研究はマルチモーダル大規模モデルに関連し、具体的にはマルチモーダル強化学習、ビジョナル言語モデル、AIエージェント、およびAIGCコンテンツ品質評価をカバーしています。

月の暗面に参加後、瞿博文の核心的な業務はKimiシリーズモデルのマルチモーダル機能構築に焦点を当て、Kimi-K2.5プロジェクトに深く関与し、ネイティブマルチモーダル強化学習の研究開発にも参加した。Kimi-K2.5は月の暗面がリリースしたネイティブマルチモーダルエージェントモデルで、総パラメータ規模は1T、アクティブパラメータは32Bである。

瞿博文が担当するネイティブなマルチモーダル強化学習システムは、従来のマルチモーダルモデルが視覚的監督微調整を完了した後で強化学習を開始する一般的なアプローチを離れ、視覚的監督微調整なしの純粋なテキスト推論モデルから出発し、視覚的強化学習を通じて直接視覚的推論能力を獲得するトレーニング手法を提案した。これにより、低品質な視覚データがモデルのネイティブな言語推論能力に干渉するのを回避している。

瞿博文の研究はAIGCコンテンツ品質評価の分野から始まり、その成果はICME 2024やCVPRW 2024などの国際会議に次々と発表された。特にICME 2024で発表された論文では、当時のAI生成画像評価体系が画面上の美しさや鮮明さにのみ注目し、生成コンテンツとユーザーの指示との一致度を無視していた問題に対し、テキストプロンプトを生成画像品質評価体系に組み込む手法を提案した。これにより、視覚的品質と指示遵守度の両方をカバーする評価基準が構築され、AI生成コンテンツの評価の包括性と人間の知覚との整合性が向上した。

瞿博文もKimiシリーズのマルチモーダルバージョンの貢献者リストに名を連ねています。若手研究者として、瞿博文の研究路線は評価体系の構築からモデル能力の構築へと進み、さらに高度なエージェント能力の開発へと展開されています。その成果は産業の実際のニーズと密接に連携し、プロダクションレベルのモデルの継続的な更新と向上に直接貢献しています。

鹿恩哲：

Kimi K3の400人以上の貢献者リストにおいて、鹿恩哲は名前が最も目立つ位置にいるわけではないが、その行動は異常に正確だった。彼が手がけた成果はすべて大規模モデルの実用化における核心的な課題を的確に突き、Kimiの効率的な計算能力システムの構築に不可欠な存在である。

鹿恩哲の研究分野は、三個の文字で正確に要約できる：長、速、省。その核心的な目標は、大規模モデルがより低いコストで、より高速に、より長いテキストを処理できるようにすることである。Kimiにとって、彼が担当するのは、トレーニングから推論までの全レイヤーの効率向上である。

2025年2月、彼は第一著者としてMoBA混合ブロック注意メカニズムを発表し、MoEのエキスパート選択のアイデアを注意層に適用することで、モデルがリクエストを処理する際に最も関連性の高いコンテキストブロックのみを計算に使用するようにした。95％のスパース性において、フルアテンションと同等の性能を実現し、百万トークンの推論を6.5倍、千万トークンの推論を16倍高速化し、Kimiの超長コンテキスト能力の基盤アーキテクチャを確実に構築した。

リリース当日、この論文はDeepSeekのNSA論文と同時に発表され、当年の国内大規模モデル分野で最も注目された技術的衝突イベントとなった。さらにそのエンジニアリング的価値を示すのは、NeurIPS 2025でSpotlight論文として採択される前から、このソリューションがKimiの本番環境でほぼ1年間、長コンテキストユーザー要求を安定して処理してきたことである。

また、MoBAからKimi LinearまでのKDAアテンションにおいて、彼はハードウェア推論効率の徹底的な最適化に携わった。トレーニング側では、Muonオプティマイザの分散実装においてメモリ使用量を最適化し、通信オーバーヘッドを効率化することで、大規模モデルのトレーニングに必要な計算リソースコストを実質的に削減した。AttnResやK1.5、K2、Kimi-VLなど複数世代の技術レポートを含め、彼の論文は効率的な大規模モデルの全レイヤー技術を網羅している。

チーム内では、彼はMoBA論文の共著者の一人である邱傑仲と固定のペアを組み、一方が突撃して着地し、もう一方が方向性を制御し、連携が完璧である。

汪彧之：

汪彧之は月之暗面（Moonshot AI）の研究員であり、Kimiシリーズの技術報告書で最も多く署名が見られる人物の一人である。

2025年1月のK1.5から2026年7月のKimi K3に至るまで、彼の名前はこの会社のほぼすべての技術文書に記載されており、ビジョン、オーディオ、アテンションアーキテクチャ、トレーニングオプティマイザ、フラッグシップモデル、さらには最先端のAIリスクガバナンスフレームワークに至るまでをカバーしている。

彼は西安電子科技大学の学士課程を修了し、清華大学電子工学系で博士号を取得した後、曠視研究院で研究エンジニアとして勤務。2024年より月の裏側に研究員として加入し、現在に至る。

月之暗面に加わる前、彼の研究は計算写真と低レベル視覚に集中していた。代表的な成果には、第一著者としてECCV 2020でモバイル端末向けRAW画像ノイズリダクション論文を発表し、この分野は現在でもモバイルイメージングのベンチマーク作業の一つとなっていること、曠視チームの一員としてNTIRE 2019リアル画像ノイズ除去コンペティションのraw-RGB部門で世界1位を獲得したこと、共同著者としてOCR分野の古典的成果であるEAST（CVPR 2017、引用2500回以上）に貢献したことが含まれる。

月の裏側期間中に、彼は以下の10本の技術文書に署名しました：k1.5、K2、K3、Kimi-VL、Kimi-Audio、MoBA、Muon、Kimi Linear、Attention Residualsの4本のアーキテクチャと効率に関する論文、および最先端のAIリスク管理フレームワーク。

注目すべきは、同社の全4本のアーキテクチャおよび効率に関する論文に、彼が共著者として名を連ねていることであり、約400人の貢献者リストの中でこのような広範な関与はめずらしい。彼がK3で担う具体的な役割については、現在公表されていない。

毛紹光：

毛紹光はKimi Agentの技術ラインの核心メンバーであり、K2、K2-Thinking、K2.5、K3の4世代にわたるフラッグシップ開発に全程参加した。また、Agent業界の2回のパラダイムシフトを完全に経験したのは業界でも稀な研究者である。

月の裏側に参加する前、彼は国内で最も早くエージェントを実装した従事者の一人だった。

清華大学コンピュータ科学修士課程卒業。在学中は上位0.2％にランクされ、国家奨学金を受賞。その後、香港中文大学で研究補助員を務め、マイクロソフトアジア研究院音声チームでインターンシップを経験。卒業後、マイクロソフトで約6年間勤務し、研究員エンジニアからシニア開発エンジニアへと成長した。

2023年初、TaskMatrix.AIの開発に参加し、ChatGPTに百万以上のAPI機能を統合。その後、Solo Performance Prompting手法を共同で提案し、単一モデルが複数の役割を演じてマルチエージェント協力をシミュレートする技術を開発。この技術はMicrosoft 365 Wordに実装された。

それはエージェントの「フレームワーク時代」——すべての機能が外部ツールを組み合わせ、プロンプトで導かれる時代であり、彼はこの技術路線の直接の体験者であり、構築者である。

しかし、この道を自ら歩んできた毛紹光は、旧范式の瓶頸を最初に見抜いた。2025年6月、彼は知乎に次のような業界の告白を投稿した。「この方向性はますますつまらなくなってきて、加速的に衰退しているように感じる」。

2025年2月に月之暗面に加入後、彼はエンドツーエンドの「モデル＝エージェント」路線に徹底的にシフトした。たった4か月でKimiの初のエージェント製品Kimi Researcherの提供に参加した：

あらかじめ設定されたプロセスに頼らず、エンドツーエンドの強化学習によって訓練され、単一タスクで平均23ステップの推論を実行し、206のウェブページを自らスキャンして、規範的な引用を含む1万字の調査レポートを生成。HLEベンチマークで26.9％のスコアを達成し、当時世界最高レベルを更新した。彼は、この製品の公式技術説明文の署名作者の一人でもある。

その後、K2からK3にかけての4世代にわたるフラグシップ開発において、彼は全程に深く関与した。HLE指標は8.6％から26.9％まで着実に上昇し、このほぼすべてが強化学習によって駆動された性能曲線は、彼の新技術路線の成果を示すものである。

大規模モデルにAPIを外部接続して機能を拡張する段階から、モデルが自らツールを呼び出し、複雑なタスクを自律的に完了する能力を内生的に習得する段階へ。毛紹光の過去10年間のキャリアは、エージェント業界が「部品の組み合わせ」から「原生的な成長」へと移行する完整な軌跡を描いている。旧パラダイムを実際に体験し、新たな道を自ら切り開いた彼の業界への見解は、最も確実な実装成果によって裏付けられている。

秦若愚（Ruoyu Qin）：

秦若愚は清華大学計算機系MADSysラボの博士課程学生で、章明星准教授の指導を受けています。彼の研究は、効率的な機械学習システムに焦点を当て、大規模分散大言語モデル推論サービスと強化学習ロールアウトシステムの2つの分野をカバーしています。

秦若愚とムーンフェイスチームが共同開発したMooncakeは、KVCacheを核とした非結合推論アーキテクチャです。このアーキテクチャは、Prefill段階とDecode段階を独立したクラスタで実行し、GPUクラスタ内の未使用のCPU、メモリ、SSDリソースを分散キャッシュプールとして統合します。この成果は、ストレージ分野のトップカンファレンスFAST 2025でErik Riedel最優秀論文賞を受賞しました。

Mooncakeは実運用に導入された本番レベルのサービスプラットフォームであり、論文の要約の冒頭で明確に「MooncakeはKimiのサービスプラットフォームである」と記載されています。実際の業務負荷下で、MooncakeはKimiのリクエスト処理量を75％向上させ、長コンテキストシナリオでは有効なリクエスト処理能力が59％から498％向上します。現在、このシステムは数千のノードにデプロイされており、毎日処理されるトークン総量は1000億を超えています。

2024年、月之暗面と清華大学MADSys実験室は共同でMooncakeプロジェクトをオープンソース化しました（オープンソースリポジトリはkvcache-ai/Mooncake）。現在までに、このプロジェクトのGitHubスター数は6,000を超えています。関連するデータと情報については、arXiv論文（番号2407.00079）、清華大学計算機学科公式ウェブサイトの公告、およびプロジェクトのオープンソースリポジトリをご参照ください。

Mooncakeの後、秦若愚の研究は引き続き推論システムの方向に深く進みました。彼は第一著者として執筆したSeer論文がOSDI 2026に採択され、この研究は強化学習におけるrolloutのパフォーマンスボトルネックに対し、rolloutの分割、コンテキスト認識スケジューリング、およびグループ化投机デコード技術を用いて、エンドツーエンドのrolloutスループットを最大2.04倍向上させ、ロングテール遅延を72%から94%削減しました。もう一篇の第一著者論文「Prefill-as-a-Service」は、KVCacheを複数データセンター間で共有する次世代推論アーキテクチャの設計理念をさらに提案しています。

チン・ルオユもK3プロジェクトの貢献者リストに含まれています。大規模モデルの製品パフォーマンスは、モデル開発とシステムエンジニアリングの両方の能力によって支えられています。モデル開発がモデルの能力上限を決定し、システムエンジニアリングが高並発シナリオにおけるサービスの可用性と運用コストを決定します。

現在の大規模モデル業界の競争は、訓練能力の競い合いからサービスエンジニアリング能力の競争へと徐々に移行しています。在籍博士課程の学生である秦若愚が、この分野でトップカンファレンスの最優秀論文レベルの成果を生み出した核心は、その研究が生産現場に直接向き合い、成果が実際のビジネスシステムに実装されていることにあります。

袁恩銘：

月之暗面Kimiチームの核心開発メンバーは、計算生物学、推薦システム、大規模モデルの3分野にわたり研究を展開し、Kimiの複数世代のコアモデルの技術的進化に全程参加しました。

彼は清華大学交差情報研究院の曾堅陽研究室でAI薬物開発の分野で研究に従事していた。2020年から2021年にかけて、彼が参加したインフルエンザ薬物リポジティングフレームワークの研究は、bioRxivプレプリントおよびジャーナル『Signal Transduction and Targeted Therapy』に順次発表され、核衣殻蛋白の相分離に関する成果は『Protein & Cell』に掲載された。

2022年から2023年まで、袁恩銘は華為ノアの方舟実験室で推薦システムの研究に従事し、その成果は複数の国際的トップ学術会議に採択された。彼は第一著者として多行動シーケンス推薦に関する論文をSIGIR 2022に発表し、その他の共同研究成果はCIKM 2022およびWWW 2023に採択された。

月の暗面に参加後、袁恩銘はKimiの複数世代のコアモデルおよび技術プロジェクトの開発に深く関与し、公に確認可能な署名プロジェクトには、Kimi k1.5強化学習技術報告、MoBA技術研究、Kimi-VL技術報告、Kimi K2大規模モデル技術報告、Kimi Linear技術報告、Kimi K2.5マルチモーダルモデル技術報告、およびKimi K3フラッグシップ大規模モデル技術報告が含まれます。

その参加範囲は強化学習訓練、マルチモーダル能力、基礎モデルアーキテクチャ、長コンテキストシステムなど複数の核心技術分野をカバーし、KimiのK1.5からK3に至る三代のフラグシップモデルのイテレーションサイクルを全体的に貫いており、チーム内で技術カバー範囲が最も広い核心開発者である。

現在の公開情報では、袁恩銘が月之暗面における具体的な職務や細分化された研究分担は明らかになっていない。公開された署名の追跡から、彼の幅広い分野にわたる研究背景が、大規模モデルの複数の技術方向への参加を支えており、Kimi技術体系の継続的な進化における重要な参加者であることが示されている。

許偉欣：

許偉欣は現在、月之暗面（Moonshot AI）の研究員であり、大規模モデルの基礎アーキテクチャ、効率的なトレーニングメカニズム、およびAttentionメカニズムの最適化を研究分野としている。

許偉欣深度參與了Kimi多代核心模型與底層技術的研發，公開署名的項目覆蓋了從k1.5到K3的完整產品迭代週期。月之暗面官方在K3發布後公開披露了三大核心自研技術——Muon優化器、Kimi Linear線性注意力、Attention Residuals注意力殘差，許偉欣是目前可核實的、唯一在這三篇核心技術論文中署名且排名均在前15位的貢獻者，是支撐K3架構性能升級的核心研發人員之一。

具体的成果として、2025年2月に発表されたMuonオプティマイザ論文において、彼は著者リストの8番目に名を連ねており、このオプティマイザの計算効率はAdamWの約2倍である。その後継となるオープンソースのMoonlightトレーニング実装にも彼は参加している。

2025年10月に発表されたKimi Linear技術論文において、彼は第15著者として参加し、提案されたKDAメカニズムはKV Cacheのサイズを最大75％削減し、百万トークンのシナリオでデコードスループットを最大6倍まで向上させる。

2026年3月に発表されたAttention Residuals論文（K3の2大コアアーキテクチャ革新の1つ）において、彼は3人の共同第一著者後に続く最初の主要貢献者として4位に位置し、関連技術はKimi K3のベースモデルアーキテクチャに深く統合されています。

さらに、彼の署名はKimi k1.5強化学習技術報告、Kimi-VL技術報告、Kimi K2およびK2.5技術報告、そして最新のKimi K3フラッグシップモデル技術報告の貢献者リストにも含まれており、基礎モデル、マルチモーダル、強化学習など複数の核心的な研究開発分野に参加しています。ただし、MoBA論文の著者リストには彼の署名はなく、両者には公開されており確認可能な研究開発上の関連性は存在しません。

また、OccDepthの3次元意味的シーン補完、PVD-ALアクティブラーニング蒸留、ACCV 2024の陰的SDF再構成など、複数の3次元ビジョン分野の研究に参加し、モデル圧縮、3D再構成、意味的シーン理解などの複数の細分化分野で学術成果を挙げている。

公開署名軌跡によると、許偉欣の研究経路はエッジデバイス上のモデルデプロイと3D視覚認識から始まり、大規模モデルの基盤アーキテクチャの革新へと段階的に拡張され、効率的計算分野に長年取り組んできました。彼の技術範囲は広範囲にわたり、月の裏側の基盤技術スタックの継続的な進化の中心的な参加者です。

杜晨壯：

杜晨壯は月の裏側の核心研究員であり、強化学習と推論能力の拡張を担当するチームの中核メンバーです。

彼は北京航空航天大学の情報管理と情報システム専攻で学士号を取得後、大規模モデル人材の黄埔軍校である清华大学交差情報研究院で博士課程に進んだ。

清華大学在学中、彼は人工知能分野の著名な学者である趙行に師事し、有名なMARS Lab（マルチモーダル・オートノマスリーズニングラボ）に参加し、マルチモーダル機械学習、強化学習、および大規模言語モデルの強化メカニズムに焦点を当て始めた。

博士課程中に、彼は核心著者として話題を呼んだ《ChatDB》アーキテクチャを開発し、「データベースをシンボリックなメモリモジュールとして使用して大規模モデルを強化する」という画期的なアイデアを提唱し、当時のAI学術界および産業界で一躍注目を集めた。

より早く産業級の大規模システムの実践経験を積むため、彼は博士課程中に北京海華人工知能研究院のインターンとして参加し、ゼロから基盤システムを構築するハードコアな研究プロジェクトに深く関与しました。これにより、マルチモーダルおよび強化学習の分野で多くの経験を積み、システムとアルゴリズムの両面からの底層的視野を備えることができました。

卒業後、月の裏側に加入し、コアモデルの技術レポートに頻繁に登場している。彼は、強化学習のスケーリング法を探究する重要な論文『Kimi k1.5: Scaling Reinforcement Learning with LLMs』に直接関与しており、Kimi K2やK2.5などのフラッグシップモデルの技術レポートにおいても中心的な貢献者として活動している。

彼はまた、Kimi多モーダル視覚大モデル《Kimi-VL Technical Report》の開発にコア共同著者として深く関与し、大規模モデルが複雑な画像、チャート、および現実世界の視覚情報に対する認識と多モーダルな深層推論能力を向上させることに注力しました。

杜晨壯の主な研究分野は、大規模言語モデル（LLM）のトレーニングエンジニアリングであり、兆単位のモデル（MoEアーキテクチャ）をスーパーコンピューティングクラスターで実現するためのリソーススケジューリング、安定したトレーニング、極限のシステム最適化に注力している。また、強化学習とマルチモーダル融合の分野において、複雑な長距離推論タスクにおいて自己監視と強化学習を用いてモデルの知的上限を飛躍的に向上させ、視覚情報と言語モデルの効率的な底層融合を実現することを研究している。

陳燕如：

陳燕如は月之暗面のコアリサーチャーで、大規模モデルの基盤アーキテクチャ、長文技術、計算リソース最適化、マルチモーダルエンジニアリングの開発と実装に注力しています。

『Attention Residuals』論文の共著者として、彼は大規模モデルの深層方向における情報フローの再構築に貢献し、超深層ネットワークの訓練効率の低さと情報フローの遮断という業界の課題を解決しました。

長テキストのコア技術において、彼はMoBA（混合ブロックアテンション）の共同著者として、Kimiの最も重要な基盤メカニズムの開発を主導・参加し、ブロックレベルのアテンション分割を通じて、数百万トークンに及ぶ超長コンテキストにおけるトレーニングおよび推論時の計算リソース過剰消費という課題を直接解決し、Kimiの極限的なコスト削減と効率向上の基盤を築いた。

同時に、彼は論文『Muon is Scalable for LLM Training』の共著者であり、注目すべきオープンソースプロジェクトMoonlightおよびその基盤となるMuonオプティマイザの開発に深く関与し、行列直交化を通じて従来のAdamWに挑戦し、分散学習における兆単位のモデルの計算コストを効果的に削減しました。

フラッグシップモデルのイテレーションにおいて、彼はKimiの過去の核心フラッグシップ（k1.5、K2、K2.5、K3）の開発ライフサイクル全体を深く統合し、大規模強化学習および兆単位パラメータ拡張におけるモデルの安定性とリソーススケジューリングの課題を解決しました。

また、Kimiのマルチモーダルライン（Linear、VL、Audio）の技術開発において、彼は非従来のTransformer構造における線形アテンションの革新を積極的に探求し、Kimiのビジュアルおよびオーディオマルチモーダル技術レポートのエンジニアリング実装を主導し、マルチモーダル情報フローの底層融合における効率のボトルネックを効率的に解決しました。

劉少偉：

劉少偉は清華大学のトップコンピュータシステム実験室であるMADSys実験室の核心メンバーであり、月の裏側の核心インフラ（Infra）チームのリーダー専門家でもある。

Kimiが兆単位のパラメータを有しながらもAPI料金が非常に低いことに感嘆するなら、その背後には、彼とチームが徹底的に追求してきた「極限のクオンツアート」がある。彼は常に兆単位の大規模モデルの極低コスト推論、ネイティブなクオンツ、大規模分散計算トポロジー設計に長年取り組んできた。

世界的最もハードコアなAIオープンソースコミュニティであるReddit LocalLLaMAで、彼はKimi公式エキスパートとして、海外のハッカーコミュニティに衝撃を与えた技術解説長文『Kimi infra team: Quantization is not a compromise, it's the next paradigm』を公開しました。この長文は、Kimi K2およびK2.5の底層に存在する極めてハードコアなNative INT4ネイティブ量子化フォーマットを深く解説しています。

彼はMoBA（混合ブロック注意メカニズム）の主要共同著者であるだけでなく、注目されるオープンソースプロジェクトMoonlightおよびその基盤となるMuonオプティマイザーの分散アーキテクチャ開発にも深く関与し、行列直交化により、数兆パラメータ規模のモデルの分散学習における計算リソース消費を大幅に削減しました。

彼はまた、月の裏側の重要なオープンソースプロジェクトKTransformersの主要な発起人およびコードメンテナーの一人であり、異種クラスタにおける兆単位のMoEモデルのハイブリッド推論の計算能力の壁を自ら突破した。

チェン・グァンドゥ：

チェン・グァンドゥは、月の裏側のInfraチームのコアリサーチャーです。彼は「システム＋アルゴリズム」の跨分野開発能力に優れ、大規模モデルインフラ、効率的アテンション機構アーキテクチャ、大規模モデルの微調整加速、および大規模ストレージと検索の最適化に焦点を当てた研究を行っています。

本科および修士課程は復旦大学コンピュータ科学科を卒業し、分散システムと底层アーキテクチャ分野で堅固な専門基盤を築いた。その後、南洋理工大学と香港科技大学で深造し、それぞれ高性能計算分野の著名な学者である袁斌航氏と大規模モデルインフラ分野の羅思強氏に師事し、最先端の学術的視野と開発経験を蓄積した。

月之暗面に正式に加入する前、彼はトップレベルのインターネット大手の基盤コア部門で深く研鑽を重ねました。彼は字節跳動のデータベースシステム開発チームおよび美团のインフラチームで研究インターンを務め、産業級の高並列、大規模分散システムの開発とアーキテクチャ最適化に深く関与しました。

期間、彼は核心作者として二つの重要な成果を発表した。底层ストレージにおいて、彼は『Oasis』を開発・発表し、最適な交差しない分割学習範囲フィルターを提案することで、大規模な範囲クエリ時のデータベースのインデックスボトルネックを直接解決した。

アプリケーション層の実装において、彼は『Gar』を発表し、「生成と並び替え」という手法により、大規模モデルが人間の複雑な意図を正確に理解し、SQLデータベースクエリ（Text-to-SQL）に変換する精度を大幅に向上させました。

陳冠多は2025年3月に月の裏側に正式に加入しました。Infraチームの中核メンバーとして、彼は月の裏側のフラッグシップ大モデルKimi K2およびKimi K2.5の主要共同著者であるだけでなく、大モデルの微調整加速、効率的なアテンションアーキテクチャ、さらには最終的なネットワークアーキテクチャの再構築などの分野で、次々と技術的ブレークスルーを達成しました。

大規模モデルの微調整に伴うVRAM消費の問題を解決するため、チェン・グァンドゥは論文『Ce-lora』を主導して発表し、計算効率の高いLoRA微調整手法を提案しました。この技術は、大規模モデルのパラメータ微調整時のVRAM使用量と計算オーバーヘッドを削減することで、インフラ層のトレーニングスループットを直接向上させ、大規模モデル微調整の「VRAM瘦身術」と称されています。

長文の計算複雑性が平方級に爆発する問題に対し、彼は開源コミュニティに衝撃を与えた「Kimi Linear」アーキテクチャの開発・発表に貢献しました。これは、表現力が高く効率的な線形アテンションアーキテクチャであり、モデルの強力な表現能力を維持しながら、長文の計算複雑性を大幅に削減し、KVキャッシュの占有量を最大75％削減しました。さらに、100万トークンの長さでデコードスループットを6倍に向上させ、Kimiが長文技術の壁に継続的に取り組むための堅固な基盤となっています。

彼はまた『Attention Residuals』の共著者の一人です。

最下層のストレージフィルター、計算効率の高いファインチューニングアルゴリズムから、革新的な次世代Transformerネットワークアーキテクチャまで、チェン・グァンドゥのキャリアの軌跡は、大規模モデルが「単なるパラメータの増加」から「極限の計算効率とエンジニアリング実装の追求」へと移行する現在の業界パラダイムと完璧に一致している。