大模型安全
2 个收录工具2 个分类12 个关联标签编辑实测收录
2 个结果
gptguard.ai
GPT Guard是专注于大语言模型会话安全防护的在线服务平台，核心定位为用户与ChatGPT等大模型交互过程中的隐私安全保驾护航。核心功能包括会话内容敏感信息自动识别脱敏、输入输出内容合规检测、会话token使用追踪统计。目标用户覆盖企业运营人员、个人开发者、内容创作者、数据合规岗从业者等群体，可应用于日常大模型查询时的个人隐私保护、企业业务数据导入大模型前的安全预处理、生成内容的合规性前置校验等场景，帮助用户降低敏感信息泄露、内容违规等风险。
大模型安全会话脱敏合规检测
fabraix.com
Fabraix是专为AI智能体设计的对抗性验证平台，核心定位为帮助开发团队发现AI智能体存在的安全漏洞与逻辑缺陷。平台提供自定义对抗测试场景构建、多种攻击向量模拟、漏洞风险评级、结果可视化分析以及可导出测试报告等核心功能，目标用户覆盖AI智能体开发团队、网络安全研究人员、大模型应用开发企业、AI安全合规审核人员、AI产品测试团队、学术AI研究人员，可用于AI智能体上线前安全测试、产品迭代阶段逻辑校验、合规审核阶段漏洞排查、学术研究阶段对抗样本分析等多种使用场景。
AI安全对抗性验证AI智能体测试