高性能 AI 推理引擎，支持大语言模型、视觉语言模型等多模态模型，针对多种硬件加速器优化，由 OpenAtom 基金会托管。
⭐1.5k5/天
为什么值得关注
访问 GitHub 页面 →
在异构硬件上实现高效推理，推动大模型落地边缘设备与实时应用，是国产 AI 基础设施的重要突破。
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布
在异构硬件上实现高效推理，推动大模型落地边缘设备与实时应用，是国产 AI 基础设施的重要突破。