LiteLLM翻译站点

用统一的 OpenAI 格式调用全球 100+ 种大模型 API（Claude、Bedrock、Ollama），自带代理网关与费用管控。

所在地：

全球开源 (BerriAI)

语言：

Python / 全球

收录时间：

2026-10-30

LiteLLM

现代 AI 工程团队几乎人手必备的‘万能网关’（18K+ Stars）。开发者无需为了对接不同厂商的模型去研读数十套不同的 SDK。LiteLLM 将它们全部转译为标准的 OpenAI 接口格式，更提供开箱即用的 Proxy 网关，支持跨模型负载均衡、智能故障转移与细粒度 Key 预算限流。

快速调用 / 开发者接入指令
官方认证

docker run -v $(pwd)/litellm_config.yaml:/app/config.yaml -p 4000:4000 ghcr.io/berriai/litellm:main-latest

官方主站直通车：https://github.com/BerriAI/litellm

百种模型统一协议
5.0 / 5.0

一套代码无缝切换 OpenAI、Anthropic、Vertex、本地离线模型

智能降级与重试网关
5.0 / 5.0

某厂商接口超时或限流时，透明自动秒级降级至备选模型

精准预算与用量追踪
4.9 / 5.0

按团队、按项目维度统计 Token 账单开销与成本上限告警

极客社区好评如潮
5.0 / 5.0

AI 基础设施领域增长最迅猛、最实用的瑞士军刀

数据统计