BaseRT 是一个为 Apple M5 优化的开源推理框架,性能远超 llama.cpp 和 MLX,适合开发者在 Mac 上高效运行大模型,亮点是极致的本地推理速度。
▲228228/天
为什么值得关注
访问 ProductHunt 页面 →
在 Apple 自研芯片上实现突破性推理速度,推动本地大模型应用落地。
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布
在 Apple 自研芯片上实现突破性推理速度,推动本地大模型应用落地。