又在 GitHub 上发现一款可视化大模型内部运作的开源工具:OpenMAV
又在 GitHub 上发现一款可视化大模型内部运作的开源工具:OpenMAV。
通过交互式终端界面,可实时可视化 LLM 在生成文本时的内部状态,包括注意力分布、MLP 激活值和 Token 预测概率等。
GitHub:http://github.com/attentionmech/mav
除此之外,还可通过插件轻松扩展可视化功能,并支持多种模型,如
![]()
又在 GitHub 上发现一款可视化大模型内部运作的开源工具:OpenMAV。
通过交互式终端界面,可实时可视化 LLM 在生成文本时的内部状态,包括注意力分布、MLP 激活值和 Token 预测概率等。
GitHub:http://github.com/attentionmech/mav
除此之外,还可通过插件轻松扩展可视化功能,并支持多种模型,如
![]()