FlashML-org

该作者在本站收录的开源项目,涵盖所有技术分类和项目状态。

1 项目

FreeToken

边缘原生的混合专家(MoE)推理引擎,让 290B+ 的前沿开源权重模型在消费级硬件上本地运行, 把 GPU、CPU、内存与互连当作一个弹性推理平台统一调度。

Stars --最近提交 --