Mooncake 是 Moonshot AI 推出的 LLM 服务部署平台，专为 Kimi 大模型设计，支持高性能推理与服务化部署。
⭐6.0k20/天
为什么值得关注
访问 GitHub 页面 →
作为领先国产大模型的生产级服务框架，Mooncake 展现了高并发、低延迟的推理能力，是 LLM 服务落地的关键基础设施。
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布
作为领先国产大模型的生产级服务框架，Mooncake 展现了高并发、低延迟的推理能力，是 LLM 服务落地的关键基础设施。