MI-MIDI: Mechanistic Interpretability of Text-to-MIDI Generation Models via Probing, Lenses and Steering
📄 MI-MIDI: Mechanistic Interpretability of Text-to-MIDI Generation Models via Probing, Lenses and Steering 标签:#音乐生成 #自回归模型 #可解释性 #模型评估 7.1/10 | 创新 1.3/2 | 严谨 1/1.5 | 实验 1.1/1.5 | 清晰 0.9/1 | 影响 1/1.5 | 开源 0.5/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.1/10 | 前50% | 文档类型:方法研究 | 评分置信度:中 | #音乐生成 | #自回归模型 | #可解释性 #模型评估 | arxiv 👥 作者与机构 第一作者:Jakub Poćwiardowski(华沙理工大学计算机科学研究所) 第二作者:Mateusz Modrzejewski(华沙理工大学计算机科学研究所) 通讯作者:论文未标注通讯作者 💡 毒舌点评 这篇工作把线性探针、logit/tuned lens、activation patching 和 steering 成套搬到文本到 MIDI 的符号音乐生成模型上,跨模型对比和双向干预分解是明显亮点,确实补了一个此前空白的方向。但它本质上是成熟可解释性工具的领域迁移与组合,且“架构决定预测形成方式”的核心判断建立在每种架构只有一个模型的基础上,无法排除分词、预训练数据和条件注入方式的混杂,作为因果结论仍然偏弱。更有经验的研究者会期待至少一个同架构不同 tokenizer/conditioning 的对照,或对 steering 方向做随机方向基线。 ...