输入关键词搜索 AI 工具、分类,或直接跳转页面
Vidai是一款可自托管的AI网关与控制平面工具,核心定位为企业级LLM请求管理方案,支持对企业所有大语言模型调用请求进行统一管控、成本核算与安全防护,所有数据处理流程都在企业自有基础设施内完成,避免数据流出企业网络。核心功能包括LLM请求全链路审计、调用成本动态统计、数据泄露风险拦截三大模块,目标用户为有内部AI工具部署需求的企业技术团队、数据安全管理部门、IT运维团队,可应用于企业内部大模型服务搭建、敏感数据AI交互防护、LLM调用成本分摊核算等场景。
访问Vidai官方网站下载对应服务器架构的部署安装包,查看官方部署文档,确认企业服务器配置符合最低运行要求,准备好相关数据库、网络端口等基础环境。
按照部署教程在企业自有基础设施上完成服务安装,配置内部网络访问权限,确保企业内部系统可以正常访问Vidai网关地址,同时禁止外部网络直接访问。
登录Vidai管理后台,接入企业所需的各大模型服务的API密钥,配置各模型的调用优先级、路由规则,根据企业需求设置不同用户、部门的访问权限。
在管理后台配置敏感数据识别规则、成本预警阈值、异常调用拦截策略等安全与管控规则,测试规则生效情况,调整至符合企业实际使用需求。
将企业内部所有需要调用大模型的系统、工具的API请求地址替换为Vidai网关地址,完成对接后即可开始统一管控所有LLM调用请求,查看运营数据。
看完教程,直接上手试试
访问 Vidai 官网