PyTorch工具库

Captum

captum.ai

Captum是面向PyTorch生态的开源模型可解释性工具库，专注于帮助开发人员和研究者理解深度神经网络预测结果的生成逻辑，支持多种数据类型的模型解释工作。核心功能涵盖特征归因、神经元 attribution和模型比较，适配图像、文本、表格等主流数据类型的深度学习模型。目标用户包括AI算法研究者、深度学习开发工程师、高校AI方向师生，适合用于模型调试、论文实验验证、算法改进以及模型透明度提升等场景。