输入关键词搜索 AI 工具、分类,或直接跳转页面
Manifest是一款面向OpenClaw框架打造的开源LLM路由工具,核心定位为帮助开发者和企业优化大语言模型调用成本与性能。它支持根据不同请求特征智能分配大语言模型调用路径,可自动匹配最适合的模型来完成任务,无需手动切换不同模型接口,最高可降低70%的大语言模型调用成本。其核心功能包含智能路由分配、多模型管理、成本统计分析、自定义路由规则、开源二次开发等,主要服务于使用大语言模型开发应用的开发者、AI创业团队、企业AI应用部门等,适合搭建多模型AI应用、控制模型调用成本、优化模型调用响应速度等场景使用。
首先访问Manifest官网,可根据自身部署需求下载开源代码,或按照官方文档指引完成项目的部署配置,适配自身服务器环境。
完成基础部署后,进入管理后台,添加需要接入的各个大语言模型的API密钥,配置每个模型的基础参数与定价信息。
根据自身业务需求,调整路由规则,可以选择使用默认智能路由规则,也可以添加自定义条件与分配逻辑完成规则配置。
将自身业务应用的大语言模型调用地址切换为Manifest的调用接口,完成业务端与Manifest的对接,测试调用流程是否正常。
日常使用中可定期查看后台的成本统计报表,根据实际调用数据与成本情况调整路由规则,持续优化成本与性能表现。
看完教程,直接上手试试
访问 Manifest 官网