输入关键词搜索 AI 工具、分类,或直接跳转页面
Transformer Explainer是由Georgia Tech Polo Club开发的Transformer模型可视化学习工具,核心定位是将复杂的Transformer内部运行逻辑通过交互可视化的方式直观呈现,降低大语言模型底层原理的学习门槛。其核心功能包括自注意力机制的分步动态演示、输入文本的实时推理路径追踪、各模块参数与输出的同步展示,目标用户覆盖NLP领域学生、AI从业者、算法研究人员以及对大模型原理感兴趣的科技爱好者,可用于课堂教学辅助、个人原理学习、技术分享演示等多个场景,帮助用户跳出枯燥的公式推导,直观理解Transformer从输入到输出的完整运行过程。
打开Transformer Explainer网站首页,等待页面加载完成,页面顶部会显示Transformer的整体架构示意图,右侧是默认的示例文本和可视化区域,确认所有模块加载正常。
在页面顶部的输入框中输入想要测试的英文文本,也可以直接使用页面提供的默认示例文本,输入完成后点击输入框旁的运行按钮,等待工具完成推理计算。
点击架构图中的自注意力模块,查看对应热力图展示的token之间的注意力权重,可点击任意token查看其与其他所有token的关联关系,也可以切换不同的注意力头观察分布差异。
沿着嵌入层、编码器层、前馈网络层的顺序依次点击不同模块,查看每个模块的输入输出数值和对应的原理说明,可滑动查看完整的参数矩阵内容,对比不同层的输出差异。
完成学习后,可以更换不同类型的输入文本重复上述操作,对比不同输入下各模块的运行结果差异,也可以截图保存对应的可视化结果用于学习或分享。
看完教程,直接上手试试
访问 Transformer Explainer 官网