~/home / Hacker News
Hacker News · Show HN

Foreman, a self-hosted LLM gateway for cost aware model routing

Foreman 是一个自托管的 LLM 网关,可根据成本、延迟和质量自动路由请求到最优大模型,帮助团队在多模型环境中实现成本控制与性能平衡。
▲151/天
为什么值得关注

解决企业使用多个大模型时的调度与成本失控问题,是 AI 工程落地的关键中间件。

LLM基础设施成本优化自托管
访问 Hacker News 页面 →
分享到 X
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布

同类产品

Physically accurate black hole you can put in your roomReverse MinesweeperI mapped every US golf courseA browser-based video editor that renders videos directly with FFmpegManaging on-premise servers without KubernetesBrolly, a plain-text weather forecast site