查看: 4|回复: 0

统一LLM API调用网关LiteLLM

2万主题	2万帖子	2万积分

管理员

Rank: 9 Rank: 9 Rank: 9

积分: 25719

发消息

发表于 3 小时前 | 显示全部楼层 |阅读模式

项目简介
统一所有LLM API调用的网关，用OpenAI格式调用Bedrock、Azure、Claude、Ollama等100+模型。

核心功能
• 统一接口：一个API调用100+种LLM
• OpenAI兼容：所有模型统一使用OpenAI格式
• 负载均衡：支持多实例负载均衡和故障转移
• 成本追踪：详细的API使用成本统计
• 代理模式：支持作为API代理服务器使用

技术栈
Python / FastAPI / OpenAI API / Redis / Docker

详细描述
网关解决了同时使用多个AI服务的统一管理问题。无论底层是Bedrock、Azure、Claude还是Ollama，都统一转换为OpenAI格式调用。提供负载均衡、故障转移和成本追踪功能。部署简单，支持Docker一键启动。是企业级AI服务管理的必备工具。

游客，本帖隐藏的内容需要积分高于 20 才可浏览，您当前积分为 0

统一, API, OpenAI, bull, 使用

相关帖子

扫码关注微信公众号，及时获取最新资源信息！【下载附件优惠：VIP会员6折；永久VIP4折】

返回列表

免责声明：
1、本站提供的所有资源仅供参考学习使用，版权归原著所有，禁止下载本站资源参与商业和非法行为，请在24小时之内自行删除！
2、本站所有内容均由互联网收集整理、网友上传，并且以计算机技术研究交流为目的，仅供大家参考、学习，请勿任何商业目的与商业用途。
3、若您需要商业运营或用于其他商业活动，请您购买正版授权并合法使用。
4、论坛的所有内容都不保证其准确性，完整性，有效性，由于源码具有复制性，一经售出，概不退换。阅读本站内容因误导等因素而造成的损失本站不承担连带责任。
5、用户使用本网站必须遵守适用的法律法规,对于用户违法使用本站非法运营而引起的一切责任，由用户自行承担
6、本站所有资源来自互联网转载，版权归原著所有，用户访问和使用本站的条件是必须接受本站“免责声明”，如果不遵守，请勿访问或使用本网站
7、本站使用者因为违反本声明的规定而触犯中华人民共和国法律的，一切后果自己负责，本站不承担任何责任。
8、凡以任何方式登陆本网站或直接、间接使用本网站资料者，视为自愿接受本网站声明的约束。
9、本站以《2013 中华人民共和国计算机软件保护条例》第二章 “软件著作权” 第十七条为原则：为了学习和研究软件内含的设计思想和原理，通过安装、显示、传输或者存储软件等方式使用软件的，可以不经软件著作权人许可，不向其支付报酬。若有学员需要商用本站资源，请务必联系版权方购买正版授权！
10、本网站如无意中侵犯了某个企业或个人的知识产权，请来信【站长信箱312337667@qq.com】告之，本站将立即删除。
郑重声明：
本站所有资源仅供用户本地电脑学习源代码的内含设计思想和原理，禁止任何其他用途！
本站所有资源、教程来自互联网转载，仅供学习交流，不得商业运营资源，不确保资源完整性，图片和资源仅供参考，不提供任何技术服务。
本站资源仅供本地编辑研究学习参考，禁止未经资源商正版授权参与任何商业行为，违法行为！如需商业请购买各资源商正版授权
本站仅收集资源，提供用户自学研究使用，本站不存在私自接受协助用户架设游戏或资源，非法运营资源行为。

|免责声明|小黑屋|依星资源网 ( 鲁ICP备2021043233号-3 )|网站地图

GMT+8, 2026-4-23 20:39

Powered by Net188.com X3.4

邮箱：312337667@qq.com 客服QQ：312337667（工作时间：9：00~21：00）

		自动登录	找回密码
密码			立即注册