LiteLLM

LiteLLM 是统一多家大模型接口的开源开发库与 AI 网关，可通过 Python SDK 或兼容 OpenAI 格式的服务调用模型。它提供虚拟密钥、费用跟踪、负载均衡和日志等网关功能，便于团队集中管理模型访问。