返回资源中心

LiteLLM Proxy Server

工具软件
后端框架
0 次浏览
0 个赞
llmapigatewayproxy

资源描述

轻量级LLM统一API代理，兼容OpenAI/Anthropic/Gemini接口，支持密钥路由、负载均衡、速率限制与token用量监控，一键部署至K8s或Docker

相关资源