音频字幕生成

📄 AudioMap: Cloze-and-Choice Reinforcement Learning for Time-Aware Dense Audio Captioning 标签：#音频字幕生成 #强化学习 #课程学习 #数据集 #模型评估 7.9/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 0.2/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 ✅ 7.9/10 | 前25% | 文档类型：方法研究 | 评分置信度：中 | #音频字幕生成 | #强化学习 | #课程学习 #数据集 | arxiv 👥 作者与机构 第一作者：Yan Rong（机构未说明；论文脚注标注 “Work done during an internship at Kling Team”，表明其在 Kling Team 实习期间完成部分工作，但无法据此确认其所属机构） 通讯作者：Li Liu（机构未说明；论文标注为通讯作者） 作者列表：Yan Rong、Fengji Ma、Xu Li、Jinting Wang、Chen Zhang、Li Liu（正文未给出作者所属机构的完整列表，无法确认各作者机构归属） 说明：论文正文未提供任何机构的完整名称或地址列表，仅脚注出现 Kling Team 字样，归属关系无法确认。 💡 毒舌点评 用 cloze-and-choice reward 把细粒度音频字幕评估拆成局部可核查的“考题”，并用 event-conditioned tIoU 把时间戳绑定到事件语义，确实比单一标量判分和 checklist 式匹配更精细、更能抗 shortcut。但全部奖励依赖 27B LLM examiner 做判卷（ESR 的填空作答和 ECTR 的区间提取均由 Qwen3.6-27B 完成），论文没有给出 examiner 自身判卷一致性与 prompt 敏感性验证；ESR 题目的干扰项质量也没有统计性检查。开源方面，正文只有 GitHub 发布页链接（https://github.com/ryysayhi/AudioMap），未明确说明代码、模型权重和 AudioMapCap-44K 数据集是否实际发布，这会让“可复现 SOTA”的成色打折扣。此外，基准指标 Omni-Cloze、MMSU/MMAR/MMAU、TACOS 全部依赖 LLM 判分，与训练奖励使用同类 examiner，存在评估偏好与训练奖励耦合的隐患。 ...

📄 AVCap: Reinforcing Audio-Video Joint Caption with Detail-Aware Reward 标签：#音频字幕生成 #强化学习 #音视频理解 #基准测试 #数据集 8.4/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 8.4/10 | 前25% | 文档类型：方法研究 | 评分置信度：中 | #音频字幕生成 | #强化学习 | #音视频理解 #基准测试 | arxiv 👥 作者与机构 第一作者：Mingyang Wu（MMLab, CUHK） 通讯作者：原文标注Corresponding author，但未指明具体人物 作者列表：Mingyang Wu（MMLab, CUHK）、Kaituo Feng（MMLab, CUHK）、Bohao Li（MMLab, CUHK）、Kaixiong Gong（MMLab, CUHK）、Zihao Yin（Peking University）、Xiangyu Yue（MMLab, CUHK） 💡 毒舌点评 亮点在于打通了"数据标注—奖励设计—评测"三位一体的闭环：AVCap-100K提供高密度原子级标注，Da-GRPO将奖励细化为原子事实级QA验证，AVCap-Score用同一套探针逻辑做评测。训练与评估在同一粒度的原子事实上对齐，是领域内少见的完整工程实践。7B模型仅靠SFT数据就能在Video-SALMONN-2上从41.7降到36.8（低于此前开源SOTA AVoCaDO的37.3），说明数据质量确实有实质贡献。 ...

📄 REFRAMED: Towards Realistic Audio Description Generation for Movies 标签：#音频字幕生成 #多模态模型 #大语言模型 8.0/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1.1/1.5 | 清晰 0.9/1 | 影响 1/1.5 | 开源 1/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 🔥 8.0/10 | 前25% | 文档类型：数据集与基准 | 评分置信度：中 | #音频字幕生成 | #多模态模型 | #大语言模型 | arxiv 👥 作者与机构 第一作者：Igor Sterner（爱丁堡大学信息学院） 通讯作者：未说明（论文未明确标注通讯作者） 作者列表：Igor Sterner（爱丁堡大学信息学院）、Mirella Lapata（爱丁堡大学信息学院）、Alex Lascarides（爱丁堡大学信息学院）、Frank Keller（爱丁堡大学信息学院） 发表信息：COLM 2026 会议论文 💡 毒舌点评 一个真正把"何时描述"和"描述什么"统一进任务定义的 AD 数据集/基准工作，数据构建的验证密度很高，摆脱了以往"clip-level captioning"的简化设定。短板也很明显：挑战集只有 10 部电影、LLM 在 full-movie 输入下生成质量远低于人类，且评估指标仍依赖 METEOR/CIDEr 这类早期 n-gram 度量，对新任务的表征力可能有限。 ...

📄 MMAC: A Massive Multi-dimensional Benchmark for Audio Captioning 标签：#音频字幕生成 #Transformer #模型评估 #音频理解 6.3/10 | 创新 1.3/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.1/0.5 | 工程 1.1/1.5 ✅ 6.3/10 | 前50% | 文档类型：数据集与基准 | 评分置信度：中 | #音频字幕生成 | #Transformer | #模型评估 #音频理解 | arxiv 👥 作者与机构 第一作者：Weijie Wu（未说明） 通讯作者：未说明 作者列表：Weijie Wu（未说明）、Junbo Li（未说明）、Lin Li（未说明）、Jun Fang（未说明）、Qingyang Hong（未说明） 💡 毒舌点评 亮点：将音频描述评估从整体相似度解耦为“覆盖”与“正确”两个正交维度，直击当前AudioLLM评估中“分数低不知错在哪”的痛点。15个维度和5638样本的规模确实配得上“Massive”一词，为诊断模型的具体能力短板提供了亟需的工具。短板：整个评估框架的生态位本质上是一个更复杂的LLM-as-Judge系统，依赖合成数据和仅10%的人工校准，J-judge自身的偏差、合成音频的分布偏移，以及标注管线的模型依赖尚未被充分验证，其诊断结论的可信度上限因此存疑。 📌 核心摘要 本文要解决音频字幕生成评估中缺乏细粒度诊断能力的问题：现有指标（BLEU、CIDEr）只给出整体相似度分数，无法区分模型是遗漏了信息、还是描述了错误信息。MMAC基准将详细音频描述分解为内容、背景、说话人属性、副语言特征、动态变化、隐含意义6大类别下的15个评估维度。与以往自动评测不同，MMAC不要求模型描述覆盖所有维度，而是为每个测试子集指定的目标维度独立统计Coverage（信息覆盖率）、Precision（提及信息的正确率）和Accuracy（整体正确率，遗漏信息计0分）。该基准从20多个数据源收集并通过TTS补全稀缺维度，构建了包含5638个音频样本的测试集。论文在MMAC上评估了8款代表性AudioLLM，结果显示Gemini 2.5 Pro的Accuracy和Precision最高（46.85%/59.39%），Qwen3-Omni-Captioner的Coverage最高（84.15%），揭示了模型在覆盖度和可靠性之间的权衡。实际意义在于为Audio Captioning模型提供了一个维度级的强诊断工具，可指引模型迭代方向。主要局限是评估本身依赖LLM judge，人工评估中使用的预标注可能引入锚定偏差，且合成数据（TTS）与真实音频存在分布差异。 ...

📄 AVSCap: Orchestrating Audio-Visual Synergy for Omni-modal Video Captioning 标签：#多模态模型 #音视频理解 #音频字幕生成 #强化学习 #音频理解 9.2/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 0.9/1 | 影响 1.2/1.5 | 开源 1/1.5 | 复现 0.3/0.5 | 工程 1.5/1.5 🔥 9.2/10 | 前10% | 文档类型：方法研究 | 评分置信度：高 | #音视频理解 | #多模态模型 | #音频字幕生成 #强化学习 | arxiv 👥 作者与机构 第一作者：Yanghai Wang（南京大学 NJU-LINK 团队） 通讯作者：Zhaoxiang Zhang（中国科学院自动化研究所） 作者列表：Yanghai Wang（南京大学 NJU-LINK 团队）、Jiahao Wang（南京大学 NJU-LINK 团队）、Jiafu Tang（南京大学 NJU-LINK 团队）、Yuanxing Zhang（快手 Kling 团队）、Zhe Cao（南京大学 NJU-LINK 团队）、Hanyan Bian（南京大学 NJU-LINK 团队）、Zijie Zhang（南京大学 NJU-LINK 团队）、Weiliang Luo（南京大学 NJU-LINK 团队）、Zhiyu Pan（南京大学 NJU-LINK 团队）、Zixuan Dong（南京大学 NJU-LINK 团队）、Jiaheng Liu（南京大学 NJU-LINK 团队）、Zhaoxiang Zhang（中国科学院自动化研究所） 💡 毒舌点评 论文对全模态视频描述中“模态隔离”和“语音中心偏见”两大顽疾的诊断一针见血，并提出了从数据构造、训练优化到评测基准的完整工程化解决方案，工程落地能力很强，展现了优秀的系统思维。然而，其数据生成管线和评估协议对 Gemini、GPT-5 等闭源强大模型的严重依赖，构成了方法独立性和可复现性的重大隐患。评测基准（1,226个视频）的规模虽经人工标注，但其作为通用标准的权威性仍显不足，且评测过程自身又引入闭源LLM作为裁判，可能形成“AI评估AI”的循环，其结论的客观性和普适性有待更广泛的检验。 ...

📄 Live Gurbani Tracking: A Benchmark and Reference System for Captioning Sikh Kirtan 标签：#音频字幕生成 #低资源 #音频理解 #Transformer #模型评估 7.4/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 0.5/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 1.5/1.5 | 复现 0.1/0.5 | 工程 1.3/1.5 ✅ 7.4/10 | 前50% | 文档类型：系统技术报告 | 评分置信度：高 | #音频字幕生成 | #Transformer | #低资源 #音频理解 | arxiv 👥 作者与机构 第一作者：Karanbir Singh 通讯作者：未说明 作者列表：Karanbir Singh 💡 毒舌点评 论文为一个小众但严肃的宗教文化需求提供了一个定义严谨、工程扎实的解决方案，将“输出必须为精确规范文本”这一硬约束优雅地融入任务定义、指标设计和系统架构中。然而，其最核心的贡献——一个可靠的基准（benchmark）——在评估规模上存在根本性缺陷：仅基于4个录音（12个评估案例）的基准，无法提供有统计意义的评估结果，使得所有报告的性能数字（如57.9%）都带有极高的偶然性。这项工作更接近一个高质量、可部署的技术验证（proof-of-concept）或一个参考系统（reference system），但作为向社区提供的“基准”（benchmark），其设计是准备充分的，而其数据规模是远远不足的。 ...

📄 CARD: Cross-component Audio Representation Distillation for Encoder-Free Audio Captioning #音频字幕生成 #知识蒸馏 #LoRA #音频理解 #参数高效微调 6.3/10 | 创新 1.2/2 | 严谨 0.9/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.4/0.5 | 工程 1/1.5 ✅ 6.3/10 | 前50% | #音频字幕生成 | #知识蒸馏 | #LoRA #音频理解 | arxiv 👥 作者与机构 第一作者：Ganesh Pavan Kartikeya Bharadwaj Kolluri（University of Kent, UK） 通讯作者：未明确标注 作者列表：Ganesh Pavan Kartikeya Bharadwaj Kolluri（University of Kent）、Yuchen Zhang（University of Kent; Queen Mary University of London）、Michael Kampouridis（University of Kent）、Ravi Shekhar（University of Kent; Queen Mary University of London） 💡 毒舌点评 这篇论文提出了一个有趣且直觉合理的洞察：在蒸馏编码器知识到无编码器模型时，将低层感知表征给投影器、高层语义表征给语言模型，这种"按需分配"的策略确实有效。然而，尽管消融实验干净地证明了蒸馏位置的重要性，模型在AudioCaps上与保留编码器的基线仍有11个CIDEr-D点的巨大鸿沟，无编码器方法的实用化依然道阻且长，且全文未提及代码和模型的开源承诺，让"摆脱编码器"这个卖点在复现面前变得脆弱。 ...

📄 TimeChat-Captioner: Scripting Multi-Scene Videos with Time-Aware and Structural Audio-Visual Captions #音视频理解 #音频字幕生成 #多模态模型 #数据集 #基准测试 #强化学习 9.4/10 | 创新 1.7/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 清晰 0.8/1 | 影响 0.9/1.5 | 开源 1.5/1.5 | 复现 0.4/0.5 | 工程 1.4/1.5 🔥 9.4/10 | 前10% | #音视频理解 | #多模态模型 | #音频字幕生成 #数据集 | arxiv 👥 作者与机构 第一作者：Linli Yao（北京大学计算机学院，快手科技Kling团队） 通讯作者：Xu Sun（北京大学计算机学院） 作者列表：Linli Yao（北京大学，快手科技Kling团队）、Yuancheng Wei（华南理工大学）、Yaojie Zhang（电子科技大学）、Lei Li（香港大学）、Xinlong Chen（中国科学院自动化研究所，快手科技Kling团队）、Feifan Song（北京大学）、Ziyue Wang（北京大学）、Kun Ouyang（北京大学）、Yuanxin Liu（北京大学）、Lingpeng Kong（香港大学）、Qi Liu（香港大学）、Pengfei Wan（快手科技Kling团队）、Kun Gai（快手科技Kling团队）、Yuanxing Zhang（快手科技Kling团队）、Xu Sun（北京大学） 💡 毒舌点评 该工作在音视频密集字幕生成领域投下了一枚“定义即创新”的炸弹。其提出的OmniDenseCaptioning任务和SodaM评估指标，直击当前音视频理解缺乏时间粒度和结构化描述的痛点，堪称一次教科书式的任务重塑。7B开源模型在精细定义的子任务上干翻Gemini-2.5-Pro，工程整合能力令人叹服，为社区贡献了完整的开原语料。然而，剥开任务定义与指标的糖衣，模型本身是Qwen2.5-Omni与GRPO的精心调配，缺乏算法层面的范式突破。更令人警惕的是，其引以为傲的SodaM指标和训练数据完全由Gemini系列模型闭环驱动，这种“以子之矛攻子之盾”的策略虽精彩，但也埋下了系统性偏见的隐患，评估的可信度也因此被蒙上一层阴影。 ...

📄 Diverse and Few-Step Audio Captioning via Flow Matching #音频字幕生成 #流匹配 #音频生成 #高效生成 #可控生成 ✅ 6.5/10 | 前50% | #音频字幕生成 | #流匹配 | #音频生成 #高效生成 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：未说明（论文仅列出作者姓名，未明确标注第一作者） 通讯作者：未说明 作者列表：Naoaki Fujita（Panasonic Holdings Corporation, Osaka, Japan）、Hiroki Nakamura（Panasonic Holdings Corporation, Osaka, Japan）、Kosuke Itakura（Panasonic Holdings Corporation, Osaka, Japan） 💡 毒舌点评 亮点：首次将流匹配（Flow Matching）引入自动音频字幕生成，实验证明其在大幅减少采样步数（最高25倍）的同时，能保持甚至超越扩散基线的准确性和多样性，效率提升显著。 短板：研究局限于替换生成过程的“最后一公里”，模型架构（BART解码器、BEATs编码器）直接沿用前人工作；更关键的是，论文未开源代码与模型，且未提供训练硬件与时间，严重削弱了其实用价值和可复现性。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：使用的是公开数据集Clotho和AudioCaps，但论文未说明其具体获取或预处理方式。 Demo：未提及。 复现材料：提供了算法伪代码（Algorithm 1, 2）和主要训练超参数（优化器、学习率、batch size等）。但缺失模型架构细节（如层数、维度）、硬件信息、完整配置文件。 论文中引用的开源项目：使用了预训练的 BEATs [22] 音频编码器和 BART [12] 语言解码器。评估工具使用了 aac-metrics 库。 总结：论文中未提及开源计划。 📌 核心摘要 要解决的问题：现有的基于扩散模型的多样化音频字幕生成方法，因需要数百步迭代去噪而导致推理计算成本高、速度慢，难以满足实时或大规模处理需求。减少步数则会显著损害生成质量。 方法核心：提出首个基于流匹配的音频字幕生成框架（FAC），直接预测从噪声到字幕表示的确定性、线性传输路径，从而用少量采样步数完成生成。 与已有方法相比新在哪里：完全用流匹配替代了扩散过程。与基于迭代去噪的扩散模型不同，流匹配学习的是近乎直线的概率路径，使得生成过程更高效、稳定。 主要实验结果：在Clotho和AudioCaps数据集上，FAC在30步甚至10步采样下的准确性和多样性指标，与扩散基线（250步）相当或更优。例如，在Clotho上，10步FAC的SPIDEr（0.257）优于250步基线（0.247）。推理时间从每样本2.28秒（250步）降至0.19秒（10步），提速约12倍。通过调节训练时的噪声尺度σ，可以在不增加推理成本的情况下控制生成多样性。 实际意义：为高效、可控的多样化音频字幕生成提供了新方案，降低了流式或实时应用中的延迟和计算开销。 主要局限性：未开源代码和模型；未报告训练硬件与时间；作为首个应用，流匹配在音频字幕任务上的潜力和边界有待进一步探索；实验主要聚焦于生成过程，未改进音频编码器和语言解码器本身。 🏗️ 模型架构 FAC的整体架构遵循DAC-RLD流水线，如图1所示。其核心是用一个流匹配模块替代了原有的扩散去噪模块。 ...

ICASSP 2026 - 音频字幕生成 共 1 篇论文 ← 返回 ICASSP 2026 总览 排名 论文 评分 分档 🥇 Diverse and Few-Step Audio Captioning via Flow Matching 6.5分 前50% 📋 论文详情 🥇 Diverse and Few-Step Audio Captioning via Flow Matching ✅ 6.5/10 | 前50% | #音频字幕生成 | #流匹配 | #音频生成 #高效生成 👥 作者与机构 第一作者：未说明（论文仅列出作者姓名，未明确标注第一作者） 通讯作者：未说明 作者列表：Naoaki Fujita（Panasonic Holdings Corporation, Osaka, Japan）、Hiroki Nakamura（Panasonic Holdings Corporation, Osaka, Japan）、Kosuke Itakura（Panasonic Holdings Corporation, Osaka, Japan） 💡 毒舌点评 ...