生成式AI防护
2 个收录工具2 个分类14 个关联标签编辑实测收录
2 个结果
alignapi.com
Align API是面向AI应用开发团队与企业开发者的内容安全防护接口服务，核心定位是帮助AI应用检测输出内容中的敏感风险，让AI输出内容符合企业品牌价值与合规要求。核心功能包含敏感内容多维度检测、品牌对齐规则自定义、实时内容审核能力，支持开发者在AI产品上线前的测试阶段开展批量内容合规校验，也能在上线后持续提供实时内容安全管控，适配生成式AI聊天机器人、AI内容生成工具、企业内部AI助手等多种使用场景，降低AI应用的内容违规风险，减少品牌声誉受损的可能性。
AI内容安全内容审核APIAI合规工具
aporia.com
Aporia是面向机器学习场景的模型可观测性管理平台，核心定位是帮助团队全生命周期管控ML、LLM及生成式AI模型运行状态，保障模型输出符合预期。平台核心功能包括多维度模型性能监控、异常根因自动分析、LLM输出合规防护三类，同时支持自定义监控规则、多源数据对接等扩展能力。目标用户覆盖机器学习工程师、数据科学家、AI产品经理、企业风控合规人员等，可应用于模型上线前测试验证、上线后实时运行监控、业务异常排查、LLM应用输出合规管控等场景，降低模型故障对业务的影响。
ML可观测性模型监控LLM可观测性