EN
~/home / GitHub
GitHub · Rust

EricLBuehler/mistral.rs

高性能、灵活的本地 LLM 推理框架，支持快速部署与定制化大模型服务
⭐7.5k206/天
为什么值得关注

在 Rust 生态中提供低延迟、高吞吐的 LLM 推理能力，推动本地大模型应用落地

AILLMRust推理
访问 GitHub 页面 →
分享到 X
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布

同类产品

block/buzzPumpkin-MC/Pumpkinruvnet/RuViewjunhoyeo/tokscaleogulcancelik/herdropenai/codex