shihabshahrier

freelm

freelm 是一个 LLM 路由器：用用户自己的 key，把 Gemini、Groq、OpenRouter、Cerebras、Mistral、NVIDIA NIM、Cloudflare Workers AI 等提供商的官方免费额度汇聚到一个 OpenAI 兼容接口之后。它可以作为 Python 或 TypeScript 库在进程内运行，也可以用 `freelm serve` 作为本地服务，按实测延迟与按模型配额路由请求，对各类失败分类处理并竞速慢提供商——设计上只走免费额度。