强化学习

针对深度与双耳音频简单拼接会丢失几何语义关联的问题，CTAN 用双向重构交叉注意力做主动语义增强、用门控时间记忆桥接听觉死区，在 Replica 与 Matterport3D 未见环境中相对 SoundSpaces 基线提升了未听过声音下的成功率与路径效率，但消融显示各模块贡献与听觉死区恢复能力仍受场景规模与声音泛化条件限制。

针对延迟流建模中结构延迟不能代表用户等待且固定对齐迫使模型晚输出的问题，论文引入词级实测延迟并在单点用准确率加延迟联合奖励做 GRPO 后训练，在 80 ms 处把词错误率相对降低 30.8% 且在 480 ms 处把中位延迟从 1.17s 降到 1.04s。

针对被动视觉缺失与误导导致的音频视觉导航失败，论文用高层 Transformer 令牌融合选 3×3 局部目标、低层碰撞惩罚图规划转原子动作，在 Replica 与 MP3D 的听过与未听过电话声划分上报告了路径效率与成功率提升，但碰撞图依赖静态假设且仍受深度噪声与仿真条件限制。

针对语音大模型强化学习只看文本词错率而放任语言先验补词的问题，该研究在训练期叠加冻结字符级 CTC 声学裁判做组内奖励，用一次贪心解码在 AMI 远场会议上把插入错误降低 22.3% 至 28.3%，代价是少量删除错误上升且只验证了单个 7B 策略与 0.3B 裁判组合。

针对流式中视觉先成熟、音频后到达导致的过早跨模态承诺问题，OST 用未来声明加到期验证加谱系回撤加回答门控组织记忆，在冻结 Qwen3-Omni-30B-A3B 上提升流式与音视基准并在诊断集上降低视觉诱发的听觉幻觉，但重写对比与多阶段训练带来额外推理与训练代价。

该文把现场音色匹配做成每 0.093 秒调一次连续合成参数的强化学习控制问题，用描述符状态加五种奖励在合成器内域与跨域及真实乐器语料上验证，最强证据是同合成器内域匹配显著更准，而代价是跨域只能近似且对描述符与奖励选择高度敏感。

共收录 14 篇 chime-2026 会议论文的 Reader 深度解读

针对自然语言到二维均衡参数的连续控制任务，论文用约 9 万次用户交互构建非参数偏好密度奖励面，先以 GRPO 做在线结构对齐再以 DPO 做峰值注入精修，在分布外概念上以 1.5B 模型达到与 GPT-4o mini 可比的听感，代价是混合管线对分组数敏感且仅适用于低维空间。

共收录 160 篇 nime-2026 会议论文的 Reader 深度解读

该文在因果多通道时频网格网络基线不动的情况下，用近端策略优化学习少量混合系数，以感知函数相对基线的提升为奖励，在助听器四通道与眼镜七通道发育集上取得小幅稳定改进，但混合结构保守且奖励依赖预训练评估模型。

SteerDuplex 针对全双工语音模型可操控性不足，用 Moshi 骨干加针对性监督微调建立语气人设语速操控，再用两阶段连续性感知的混合奖励强化学习改善打断响应与暂停等待，代价是仍存在过早让出话轮与奖励钻空子的权衡。

论文针对长视频多模态计数难评难训的问题，构建带细粒度线索标注的 CG-AV-Counting 并用课程式 GRPO 训练 AV-Reasoner，最强证据是在 DVD-Counting 上达到 44.00 准确率且多项音视定位任务达到新高，代价是显式输出思维链在域外幻觉子集上反而降低准确率。

针对长视频音频问答中 GRPO 样本浪费、组内奖励相同导致优势为零、全序列平均授信的问题，AVATAR 用分层回放加离线修正与首尾抛物线加权做强化学习，在 Qwen2.5-Omni 上取得 MMVU 加 5.4 等增益，代价是四阶段课程与多奖励判断器带来的训练复杂度。

共收录 103 篇 cvpr-2026 会议论文的 Reader 深度解读

针对视频问答中被动看帧、忽视音频的问题，该工作用跨模态未来与过去摘要预测做监督微调，再用对比式强化学习约束双模态联合推理，在 16 帧与 64 帧条件下以 7B 与 8B 规模在四个音视频基准上达到与大闭源模型可比的水平，代价是两阶段推理延迟高于单阶段模型。

针对长时长音频驱动全身动画的身份漂移与手部畸变问题，论文采用先生成低分辨率同步视频再用姿态引导精炼器恢复高分辨率的由粗到精路线，在全身集上报告图像距离 60.71 与手部置信度 0.90 等结果，代价是两阶段训练与大规模单人数据依赖。

针对社交媒体多模态伪造分散评测的问题，论文构建覆盖图像、音频、视频与音视频讲话头的统一基准并提出课程微调加统一奖励强化的 Omni-Fake-R1，最强证据来自严格不相交的 OOD 划分与联合评测，而代价是渐进式训练流程更长且定位精度仍受篡改细粒度限制。

论文研究如何在低功耗乐器内嵌入可调映射学习，让演奏者在演奏中用奖惩塑造神经网络映射，报告显示可高速探索大参数空间但精调困难且依赖预设偏置。

共收录 147 篇 aaai-2026 会议论文的 Reader 深度解读

共收录 199 篇 acl-2026 会议论文的 Reader 深度解读