大语言模型安全

Mindgard

mindgard.ai

Mindgard是一个专注于AI与机器学习模型安全防护的技术服务平台，提供自动化安全测试与红队模拟解决方案，帮助开发团队、安全团队识别AI模型潜在的安全漏洞与风险。平台支持针对大语言模型、计算机视觉模型等多种主流AI模型的安全检测，覆盖数据泄露风险、 prompt注入、对抗样本攻击、模型窃取等多种常见威胁场景，目标用户包括AI模型开发企业、网络安全团队、AI安全研究人员，帮助企业在部署AI模型前提前发现安全隐患，保障模型运行安全。

Cencurity

cencurity.com

Cencurity是一款专注于大语言模型交互场景的安全网关工具，核心定位是为大语言模型的输入输出环节提供数据安全防护能力。其核心功能包括敏感数据实时检测脱敏、高风险代码识别拦截、访问行为审计溯源、自定义安全规则配置、多LLM平台适配对接，主要面向企业IT安全管理人员、AI应用开发人员、数据合规专员等用户，可应用于企业内部LLM服务部署、AI应用对外输出安全管控、数据合规场景审计、研发团队代码交互防护等多个场景，帮助用户降低大语言模型使用过程中的数据泄露、违规内容输出等安全风险。