LiteLLM使用教程

访问LiteLLM官网，根据自身部署需求选择云服务版本或者开源自托管版本，云服务可直接注册账号，自托管版本按照文档指引完成服务部署与初始化配置。

进入控制台的模型管理页面，添加需要对接的大模型厂商，填写对应厂商的API密钥、调用endpoint等信息，保存后即可完成模型接入配置。

进入权限管理页面，根据业务需求创建不同权限的API密钥，设置每个密钥的可调用模型范围、额度限制、访问白名单等规则，分发给对应的开发人员或业务系统。

开发者按照OpenAI接口格式编写请求代码，将接口请求地址替换为LiteLLM的网关地址，使用分配到的LiteLLM API密钥即可发起大模型调用，无需适配不同厂商的接口规则。

进入数据统计页面，可查看不同维度的调用统计、消费明细、错误率等数据，也可导出报表用于成本核算，还可配置告警规则及时接收调用异常通知。