机器学习安全

huntr

huntr.com

Huntr是一个专注于人工智能、机器学习领域开源项目的漏洞赏金平台，连接开源项目维护者与全球安全研究者，帮助开源项目发现并修复安全漏洞。平台核心功能包括漏洞提交管理、赏金发放对接、项目安全看板、开发者协作空间以及合规资质认证，主要面向人工智能开源项目维护者、信息安全研究人员、企业安全团队、开源社区贡献者、风险投资机构和 cybersecurity 培训机构，适用于开源项目安全审计、漏洞赏金活动举办、安全研究者获取赏金、企业评估开源项目安全风险等场景。

Mindgard

mindgard.ai

Mindgard是一个专注于AI与机器学习模型安全防护的技术服务平台，提供自动化安全测试与红队模拟解决方案，帮助开发团队、安全团队识别AI模型潜在的安全漏洞与风险。平台支持针对大语言模型、计算机视觉模型等多种主流AI模型的安全检测，覆盖数据泄露风险、 prompt注入、对抗样本攻击、模型窃取等多种常见威胁场景，目标用户包括AI模型开发企业、网络安全团队、AI安全研究人员，帮助企业在部署AI模型前提前发现安全隐患，保障模型运行安全。