lyogavin/airllm

AirLLM 70B：在单块4GB显存GPU上运行700亿参数大模型推理，专为开发者和研究者设计，支持量化与高效内存管理。