基于OpenJDK Panama FFM（Java 22）实现的低延迟本地LLM运行器，让Java生态能高效运行大模型，适合需要高性能推理的后端服务开发者。
▲38
为什么值得关注
访问 Hacker News 页面 →
突破Java在LLM场景下的性能瓶颈，实现接近原生的本地大模型推理速度。
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布
突破Java在LLM场景下的性能瓶颈，实现接近原生的本地大模型推理速度。