✈️ LiteLLM | 手里有多个模型 API Key,可以试试统一网关
如果同时在用 OpenAI、DeepSeek、Kimi 等不同平台的 API,应该会遇到一个问题:
每家的接口地址、认证方式和模型名称都不太一样,写程序的时候得分别适配。
LiteLLM 就是用来统一这些模型接口的开源项目。
它可以把不同供应商的模型接到统一入口,还支持 API Key 管理、用量统计、预算限制、请求限流和故障转移。
比如某个模型服务暂时不可用,可以根据配置切换备用渠道,不用每次都去修改业务代码。
如果是个人开发、多个供应商混合使用,或者需要为团队统一管理模型调用,LiteLLM 都是可以研究的方案。
📦 GitHub:
https://github.com/BerriAI/litellm
🏷 标签:#AI网关 #开源项目
🌍 频道 🎁 投稿 ✈️ 机场推荐
如果同时在用 OpenAI、DeepSeek、Kimi 等不同平台的 API,应该会遇到一个问题:
每家的接口地址、认证方式和模型名称都不太一样,写程序的时候得分别适配。
LiteLLM 就是用来统一这些模型接口的开源项目。
它可以把不同供应商的模型接到统一入口,还支持 API Key 管理、用量统计、预算限制、请求限流和故障转移。
比如某个模型服务暂时不可用,可以根据配置切换备用渠道,不用每次都去修改业务代码。
如果是个人开发、多个供应商混合使用,或者需要为团队统一管理模型调用,LiteLLM 都是可以研究的方案。
📦 GitHub:
https://github.com/BerriAI/litellm
🏷 标签:#AI网关 #开源项目
🌍 频道 🎁 投稿 ✈️ 机场推荐