~/home / Hacker News
Hacker News · Show HN

TensorSharp: Open-Source Local LLM Inference Engine

TensorSharp 是一个开源的本地大语言模型推理引擎，支持在设备端高效运行 LLM，适合开发者构建离线 AI 应用
▲2
为什么值得关注

在隐私敏感场景下提供轻量级、高性能的本地 LLM 推理方案，响应对去中心化 AI 的需求

AI本地推理开发者工具
访问 Hacker News 页面 →
分享到 X
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布

同类产品

Yap – OSS on-device voice dictation for macOS with no model to downloadLet's Seal – Let's Encrypt for document signing, free and self-hostedFeyNoBg – Automatic background removal model and training libraryScala Tutorials – interactive Scala 3 lessons in the browserGeoImageTagger – AI image geotagging and metadata editorXY – A Fast, composable, GPU-accelerated interactive plotting library