音视频

该研究把主动规划、口头对话与非言语通信统一为一个零样本提示驱动的 LLM 代理工作流，并在 Pepper 机器人上与基于规则的多策略基线对比，主动性离线重放占优而用户体验总体接近，但推理延迟与样本不均衡仍是主要代价。

该研究以重音结尾的节奏组为锚点比较四种教学干预，报告显示本体感觉干预在半自发话语中减少不流利并稳定重音手势同步，但样本仅 12 人且起跑线不齐，推广需谨慎。

该研究用粤语六声最小对的 AX 辨别任务检验口罩与噪声影响，发现戴外科口罩条件下的辨别灵敏度更高，贝叶斯因子 BF10 为 67.37，而声学分析显示口罩未显著改变基频相关线索，代价是结论限于辨别任务与外科口罩。

针对头显加耳机造成使用者与同室他人隔绝的问题，MetaConcert 选择 WebXR 播放 360°视频加 SuperCollider 播放预解码三阶 Ambisonics 穹顶声场的分流架构并用 OSC 桥接同步，在约 10 分钟节目上经感知验证同步可用，代价是仍依赖中央听音点、局域网质量与人工校准。

该研究以一段 8 分 35 秒德语 TED 演讲为样本检验累积线索与补偿线索两种假设，发现有重音和特强音节更易伴随手势且手势更强、强手势顶点更贴近重音音节，但核前重音反而比核心重音更易引出手势，代价是单说话人、小样本且特强样本稀少。

共收录 160 篇 nime-2026 会议论文的 Reader 深度解读

针对混合音乐中电子声部与乐队弹性速度难同步的问题，Ponticello 用摄像头加循环网络从指挥手势实时推断速度来拉伸电子演奏谱，其排练与音乐会验证显示可用但只解决时间协调且依赖训练覆盖的指挥风格。

该项目要解决多人视频对话中语言、非语言、视觉与时间线索难以统一建模的问题，选择先定义多维度交际行为再建模其关系并生成电影剧本式描述，以虚构与真实语料上的泛化为证据方向，代价是本文仅提出路线而未报告可验证的模型与定量结果。

这篇工作室报告梳理 SARC 二十年以实践为基础的声音与音乐研究设施与方法，最强证据是声学实验室 84 只扬声器与多空间系统等可核对配置，代价是它不提供受控实验对比与可复用的训练式结论。

针对多人同时交谈的重叠语音识别问题，该工作在 AV-HuBERT 识别主路径之外并联一个在 FBank 特征层面重建目标与干扰的 AV-TSE 辅助任务，并在 MCoRec 开发集上把词错误率从 49.90% 降到 49.55%，代价是需要仿真混合数据提供干净特征监督且推理时不使用提取分支。

针对 360 度远场多说话人重叠对话的音视频识别与说话人归属问题，AUVIS 在官方基线五阶段流水线上保留基线检测与跟踪、只做切分与聚类参数解耦和网格优化，用开发集上聚类 F1 到 0.906 的 14.8% 相对提升带动联合误差 17.09% 相对下降，而识别字错误率仅相对下降 0.9% 到 0.4943。

针对多人同时说话造成的严重重叠与多会话分组难题，该工作保留基线说话人检测不变，主攻视听语音识别的数据清洗与模板化混合仿真并用大语言模型做会话聚类，开发集最好结果为词错误率 42.81% 与聚类分数 97.77%，代价是强单说话人骨干仍易误转干扰人且文本纠错收益有限。

针对多人多会话同时进行的真实鸡尾酒会转写与会话聚类问题，论文采用先用 CTRnet 消除近讲串扰再用其输出做伪标签微调 AV-TFGridNet 视听目标说话人提取的两阶段路线，在开发集上用 AV-HuBERT 转写达到 33.78% 联合错误率，代价是仍依赖说话人活动时间戳弱监督与未做提取后 ASR 适配时约 48% 说话人词错误率。

该装置让 1 至 4 名表演者手持投影在 4 m×3 m 空间走动，用天花板相机只看墙上多边形的几何来判别 5 个空间交互点并驱动声音，离散音高经倾斜与置信度与连续帧门控后才切换，而连续音色保持约 30 fps 响应，代价是约 0.33 s 切换延迟与暗室和重标定依赖。

论文针对同一信号同时驱动振镜、音箱与激光二极管时跨域漂移与视觉先崩溃的问题，提出以全局相位斜坡为统一时间基础设施的架构，并以超过 40 个模块的 Phosphene 系统在 200 到 400 模块规模与 8 场演出中验证其可扩展性，代价是仍受 VCV Rack 非确定性调度与 CPU 负载限制。

ActAvatar 针对说话化身中文本动作控制粗糙与时间错位问题，采用分阶段提示与分层音视频调制，在保持口型同步的同时实现相位级动作控制，最强证据是动作基准上命中率与时间正确性领先，但深层调制与两阶段训练带来实现与数据构造代价。

AVI-Edit 以 Wan2.2 为视频骨干，用精度因子引导的掩膜精修器管空间边界、用分离生成混音返工的音频智能体管时间对齐，在 AVISET 与 AvED-Bench 上报告了质量与同步优势，代价是多实例只能串行逐个处理。

针对单张图像对应多种合理声音的一对多图像到音频生成问题，AudioSketch 用轻量图像到音频映射复用预训练文本到音频扩散模型并以 ControlNet 注入能量轨迹，再用语义条件能量调制器把简单时间戳转换为精炼能量，在 VisualSound 上无控制时以 16.21 的 FD 与 12.41 的 IS 领先同类，而代价是对平滑归一化选择敏感且客观起振对 …

论文针对长视频多模态计数难评难训的问题，构建带细粒度线索标注的 CG-AV-Counting 并用课程式 GRPO 训练 AV-Reasoner，最强证据是在 DVD-Counting 上达到 44.00 准确率且多项音视定位任务达到新高，代价是显式输出思维链在域外幻觉子集上反而降低准确率。

针对双人对话头像需要实时响应用户语音与动作、且倾听表情难以标注的问题，论文用因果扩散强迫在动作隐空间逐块生成并用丢用户条件的合成负样本做偏好优化，报告约 500 ms 延迟、6.8 倍加速与超 80% 人工偏好，代价是口型与画质只保持可比而非全面领先。