本文へスキップ

Mooncake

KVCache を中核にした Kimi のサービス基盤

公式サイトを見る
カテゴリ AIモデル

mooncake とは

本基盤は Moonshot AI による Kimi のサービス基盤で、KVCache を中核に置く。事前処理とデコードのクラスターを分け、余った資源を生かす。

できること

  • 遅延の目標と処理量の両方を狙う
  • 過負荷の際に早期の拒否を働かせる
  • 長い文脈の要求をさばく

始め方

  • GitHub のページを開く
  • 技術報告を読む
  • 環境を整えて API につなぐ

長所と短所

✓ 良い点

  • 長い文脈の場面で良い結果が資料に示される
  • 一部の模擬場面で処理量 525% 向上と資料にある

! 注意したい点

  • 環境の設定はプロジェクトの文書に沿う
  • 組み込みは用意された API やインターフェースを通じて行う

よくある質問

提供元はどこ?

Moonshot AI が Kimi 向けに提供すると資料にある。

技術資料はある?

コミュニティ向けに技術報告が公開されている。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法