Full-Duplex Interaction in Spoken Dialogue Systems: A Comprehensive Study from the ICASSP 2026 HumDial Challenge

📄 Full-Duplex Interaction in Spoken Dialogue Systems: A Comprehensive Study from the ICASSP 2026 HumDial Challenge #语音对话系统 #端到端 #基准测试 #多模态模型 ✅ 6.5/10 | 前25% | #语音对话系统 | #端到端 | #基准测试 #多模态模型 | arxiv 学术质量 4.0/7 | 选题价值 1.8/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者:未说明(作者列表按姓氏字母顺序排列,未明确指出第一作者) 通讯作者:未说明(论文中未明确标注通讯作者,但提供了共同联系邮箱) 作者列表:Chengyou Wang (Audio, Speech and Language Processing Group (ASLP@NPU), School of Computer Science, Northwestern Polytechnical University, Xi’an, China)、Hongfei Xue (同上)、Guojian Li (同上)、Zhixian Zhao (同上)、Shuiyuan Wang (未说明具体单位,仅列姓名)、Shuai Wang (未说明具体单位,仅列姓名)、Xin Xu (未说明具体单位,仅列姓名)、Hui Bu (AISHELL, China)、Lei Xie (Audio, Speech and Language Processing Group (ASLP@NPU), School of Computer Science, Northwestern Polytechnical University, Xi’an, China) 💡 毒舌点评 本文为全双工语音对话系统的研究提供了一套详尽、实用的“考试大纲”和“模拟题库”,其数据集构建和评测框架设计是当前该领域急需的公共产品,对推动后续研究非常有益;但作为一篇“综合性研究”,它更像是一个挑战赛报告和资源发布文档,缺乏自身提出的、经过严格验证的新型模型或核心算法,学术增量主要体现在“评测”而非“建模”上。 ...

2026-05-01 · 更新于 2026-08-07 · 2 min · 319 words

HATS: An Open data set Integrating Human Perception Applied to the Evaluation of Automatic Speech Recognition Metrics

📄 HATS: An Open data set Integrating Human Perception Applied to the Evaluation of Automatic Speech Recognition Metrics #语音识别 #模型评估 #数据集 #法语 ✅ 7.0/10 | 前50% | #语音识别 | #模型评估 | #数据集 #法语 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Thibault Bañeras Roux(Nantes University, LS2N) 通讯作者:未说明 作者列表:Thibault Bañeras Roux(Nantes University, LS2N)、Jane Wottawa(Le Mans University, LIUM)、Mickael Rouvier(Avignon University, LIA)、Teva Merlin(Avignon University, LIA)、Richard Dufour(Nantes University, LS2N) 💡 毒舌点评 亮点:论文构建了一个稀缺的、专注于人类感知的法语ASR错误转录数据集(HATS),并通过精心设计的“困难选择”实验协议,系统性地评估了多种现有指标(从WER到BERTScore)与人类判断的相关性,为该领域提供了宝贵的基准和洞见。短板:研究结论严重受限于单一语言(法语) 和特定数据集(REPERE),其发现能否泛化到其他语言或错误类型存疑;此外,数据集规模(1000个三元组)对于建立普适性结论可能稍显不足。 ...

2026-05-01 · 更新于 2026-08-07 · 2 min · 314 words

Identifying and typifying demographic unfairness in phoneme-level embeddings of self-supervised speech recognition models

📄 Identifying and typifying demographic unfairness in phoneme-level embeddings of self-supervised speech recognition models #语音识别 #自监督学习 #公平性 #模型评估 #音素 ✅ 7.0/10 | 前50% | #语音识别 | #自监督学习 | #公平性 #模型评估 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Felix Herron(MILES Team, LAMSADE, Université Paris Dauphine-PSL, France & GETALP Team, LIG, Université Grenoble Alpes, France) 通讯作者:未说明(论文未明确标注,但通常为末位作者或提供邮箱者,此处作者邮箱为felix.herron@univ-grenoble-alpes.fr) 作者列表: Felix Herron(Université Paris Dauphine-PSL & Université Grenoble Alpes) Solange Rossato(Université Grenoble Alpes) Alexandre Allauzen(Université Paris Dauphine-PSL) François Portet(Université Grenoble Alpes) 💡 毒舌点评 亮点在于将ASR不公平性问题分解为可度量的“系统性偏差”和“随机方差”两种几何形态,为诊断模型失败模式提供了清晰的理论工具箱;然而,整篇论文更像是对现有模型的一次全面“体检报告”,指出了病灶(尤其是高方差问题)却并未开出有效的“处方”,所验证的公平性增强方法(DET/DAT)也未能触及核心,这使得研究在建设性上略显乏力。 ...

2026-05-01 · 更新于 2026-08-07 · 2 min · 261 words

JaiTTS: A Thai Voice Cloning Model

📄 JaiTTS: A Thai Voice Cloning Model #语音合成 #语音克隆 #自回归模型 #流匹配 #低资源 ✅ 7.5/10 | 前25% | #语音合成 | #自回归模型 | #语音克隆 #流匹配 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Jullajak Karnjanaekarin (Jasmine Technology Solution) 通讯作者:未明确说明(论文提供了共同邮箱 jts.ai.team@gmail.com) 作者列表: Jullajak Karnjanaekarin (Jasmine Technology Solution) Pontakorn Trakuekul (Jasmine Technology Solution) Narongkorn Panitsrisit (Jasmine Technology Solution) Sumana Sumanakul (Jasmine Technology Solution) Vichayuth Nitayasomboon (Jasmine Technology Solution) Nithid Guntasin (Sirindhorn International Institute of Technology) Thanavin Denkavin (Sirindhorn International Institute of Technology) Attapol T. Rutherford (Jasmine Technology Solution, Chulalongkorn University Department of Linguistics) 💡 毒舌点评 JaiTTS在泰语这一垂直赛道上确实“秀了一把肌肉”,性能数据(如CER低于人类基准)和人类盲测胜率都相当漂亮,证明了其在目标语言上的强大实力。然而,论文对模型“黑箱”的保护可谓严密,除了引用VoxCPM作为骨架,核心训练细节(如参数规模、优化器设置)几乎全部隐去,且没有任何开源复现的迹象,这使得其卓越的性能更像一个无法验证的“展示柜”,而非可供学术共同体推进的“开放工具”。 ...

2026-05-01 · 更新于 2026-08-07 · 2 min · 264 words

Listening with Time: Precise Temporal Awareness for Long-Form Audio Understanding

📄 Listening with Time: Precise Temporal Awareness for Long-Form Audio Understanding #音频大模型 #音频场景理解 #基准测试 #强化学习 #数据集 🔥 8.0/10 | 前25% | #音频场景理解 | #音频大模型 | #基准测试 #强化学习 | arxiv 学术质量 5.8/7 | 选题价值 1.5/2 | 复现加成 0.7 | 置信度 高 👥 作者与机构 第一作者:Mingchen Shao(西北工业大学) 通讯作者:Lei Xie(西北工业大学) 作者列表:Mingchen Shao(西北工业大学)、Hang Su(独立研究者)、Wenjie Tian(西北工业大学)、Bingshen Mu(西北工业大学)、Zhennan Lin(西北工业大学)、Lichun Fan(独立研究者)、Zhenbo Luo(独立研究者,清华大学相关)、Jian Luan(独立研究者)、Lei Xie(西北工业大学) 💡 毒舌点评 这篇论文的亮点在于其“庖丁解牛”式的系统设计:面对长音频时间感知这一老大难问题,没有硬磕模型本身,而是从数据、评测、推理范式三个层面给出了一套“组合拳”,尤其是构建全球-局部时间线的TWA-CoT思路清晰有效。然而,其短板也很明显:框架的计算开销和多轮推理的延迟使其在实时或流式场景下的应用面临挑战,且最终性能的天花板依然受限于所采用的骨干模型(Qwen3-Omni)的基础能力。 🔗 开源详情 代码:论文承诺开源,并提供了GitHub仓库链接:https://github.com/alanshaoTT/LAT-Audio-Repo。 模型权重:论文提及基于Qwen3-Omni-30B进行训练,但未明确说明最终模型权重是否开源。根据仓库名推测,模型权重可能也会开源。 数据集:LAT-Chronicle数据集和LAT-Bench基准承诺开源,但未说明具体获取方式(如需申请或直接下载)。 Demo:论文中未提及提供在线演示。 复现材料:论文提供了详细的三阶段训练策略、关键超参数(学习率、批大小、组大小)、奖励函数设计以及数据集的构成统计,复现材料较为充分。 引用的开源项目/工具: 骨干模型:Qwen3-Omni-30B-A3B-Instruct (Team, 2025c) 训练框架:Swift (Zhao et al., 2025) 对比模型/工具:Audio-Flamingo3 (Goel et al., 2025)、Gemini系列 (Team, 2025a)、Step-Audio-R1.1 (Tian et al., 2025)、Time-Audio (Wang et al., 2026) 评估指标:FENSE (Zhou et al., 2022; Dinkel et al., 2025) 原子标注中使用的模型:Gemini-2.5-Pro、LLM-ForceAligner (Mu et al., 2026) 强化学习算法:Group Relative Policy Optimization (Shao et al., 2024) 📌 核心摘要 本文针对大型音频语言模型在长音频理解任务(尤其是需要精确时间感知的任务)中性能显著下降的问题,提出了一套综合解决方案。 ...

2026-05-01 · 更新于 2026-08-07 · 2 min · 378 words

LRS-VoxMM: A benchmark for in-the-wild audio-visual speech recognition

📄 LRS-VoxMM: A benchmark for in-the-wild audio-visual speech recognition #语音识别 #数据集 #基准测试 #鲁棒性 🔥 9.0/10 | 前25% | #语音识别 | #数据集 | #基准测试 #鲁棒性 | arxiv 学术质量 6.5/7 | 选题价值 1.8/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者:Doyeop Kwak(韩国高等科技院 KAIST) 通讯作者:未明确标注,根据惯例和论文末位,可能为 Joon Son Chung(韩国高等科技院 KAIST) 作者列表:Doyeop Kwak(韩国高等科技院 KAIST)、Jeongsoo Choi(韩国高等科技院 KAIST)、Suyeon Lee(韩国高等科技院 KAIST)、Joon Son Chung(韩国高等科技院 KAIST) 💡 毒舌点评 亮点:精准地切中了当前AVSR评测体系的一个真实痛点——现有主流基准过于“干净”和饱和,难以评估视觉信息的真正价值,并为此提供了从构建协议到失真测试集的一整套标准化解决方案,实用性极强。短板:作为一项数据集/基准工作,其学术贡献主要在于“整合”和“定义”,在模型或算法层面并无直接创新;对基准难度的分析虽充分,但最终仍依赖现有模型来展示,未能提出新的分析范式。 🔗 开源详情 代码:https://github.com/kaistmm/VoxMM 模型权重:论文中提及使用了官方公开发布的 AV-HuBERT、Auto-AVSR 和 Llama-AVSR 检查点,但未提供这些检查点的具体获取链接。 数据集:VoxMM 官方项目主页(包含 LRS-VoxMM 下载说明):https://mm.kaist.ac.kr/projects/voxmm Demo:论文中未提及 复现材料:论文中提及复现了 Auto-AVSR 模型 (Auto-AVSR*),但未提供具体的训练配置文件、复现检查点或详细附录的链接。 论文中引用的开源项目: VoxMM 预处理工具:https://github.com/kaistmm/VoxMM DEMAND 噪声数据库:论文中提及用于加性噪声合成,但未提供具体链接。 Wav2vec 2.0 LARGE 模型:论文中提及用于词级时间戳的强制对齐,但未提供具体链接。 SyncNet:论文中提及用于同步性置信度评分,但未提供具体链接。 LRS2/LRS3 数据集:论文中多次提及并比较,但未提供其原始数据集链接。 The request was rejected because it was considered high risk ...

2026-05-01 · 更新于 2026-08-07 · 2 min · 228 words

Mapping the Methodological Space of Classroom Interaction Research: Scale, Duration, and Modality in an Age of AI

📄 Mapping the Methodological Space of Classroom Interaction Research: Scale, Duration, and Modality in an Age of AI #教育研究 #方法论框架 #多模态模型 #基准测试 #跨模态 ✅ 6.0/10 | 前50% | #模型评估 | #基准测试 | #教育研究 #方法论框架 | arxiv 学术质量 5.5/7 | 选题价值 3.0/2 | 复现加成 -1.0 | 置信度 中 👥 作者与机构 第一作者:未说明(论文中未明确标注) 通讯作者:未说明(论文中未明确标注) 作者列表: Dorottya Demszky(未说明) Edith Bouton(未说明) Alison Twiner(未说明) Sara Hennessy(未说明) Richard Correnti(未说明) 💡 毒舌点评 这篇论文试图在教育研究与AI技术之间架起一座方法论的桥梁,其提出的“尺度-时长-模态”三维分析框架视角新颖,对于整合长期割裂的大规模量化研究与深度质性研究具有启发性。然而,作为一个纯理论框架论文,它缺乏任何实证数据、算法实现或案例验证来支撑其框架的有效性和实用性,读起来更像一篇优秀的研究议程提案,而非一份扎实的学术成果报告。 🔗 开源详情 代码:论文中未提及代码链接 模型权重:论文中未提及 数据集:论文中未提及 Demo:论文中未提及 复现材料:论文中未提及 论文中引用的开源项目:未提及 补充信息 [核心摘要] 补充:框架的提出直接源于对课堂互动研究中“大规模量化观察”与“小样本质性民族志”长期割裂现状的观察,旨在弥合这一方法论鸿沟。论文中用于例证框架的两个研究(Howe et al., 2019; Snell & Lefstein, 2018)在三维空间中的具体定位有清晰对比:前者代表大尺度、中期持续、以音频转录为主的文本分析;后者代表小尺度(单案例)、长期追踪、以视频为主的多模态(含视觉线索)分析。这一对比具体展示了框架如何定位和对比不同研究的侧重点。 ...

2026-05-01 · 更新于 2026-08-07 · 1 min · 153 words

MCPHunt: An Evaluation Framework for Cross-Boundary Data Propagation in Multi-Server MCP Agents

📄 MCPHunt: An Evaluation Framework for Cross-Boundary Data Propagation in Multi-Server MCP Agents #模型评估 #基准测试 #大语言模型 #开源工具 #鲁棒性 ✅ 7.5/10 | 前25% | #模型评估 | #基准测试 | #大语言模型 #开源工具 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Haonan Li(中国地质大学(北京)教育部长江三峡库区地壳活动与地质灾害重点实验室,中国地质大学(北京)地球物理与信息技术学院) 通讯作者:未说明(论文未明确标注通讯作者) 作者列表:Haonan Li(同上)、Tianjun Sun(同上)、Yongqing Wang(同上)、Qisheng Zhang(同上) 💡 毒舌点评 这篇论文的亮点在于它犀利地指出了一个常被忽视的“非恶意”安全风险:AI代理在“乖乖干活”时如何因工作流拓扑结构而“被迫”泄露数据,其提出的CRS分层方法清晰地区分了“任务要求”和“安全失败”,框架设计严谨且开源彻底。短板在于其所有评估任务均为研究者设计的合成场景,能否完全代表真实企业部署中复杂多变的工作流尚存疑问,且对“数据传播”仅限于可字符串匹配的金丝雀,未涉及更隐晦的语义泄露。 🔗 开源详情 代码:https://github.com/lihaonan0716/MCPHunt 模型权重:论文中未提及(论文评估的模型通过API端点调用,未提供模型权重本身) 数据集:https://huggingface.co/datasets/lihaonan0716/mcphunt-agent-traces (包含所有6,321条追踪记录;开源协议为CC BY 4.0) Demo:论文中未提及 复现材料: 代码仓库包含完整的评估框架、标注管线(labeling pipeline)和Croissant元数据。 可复现配置:每个输出JSON文件包含版本信息(schema_version, pipeline_git_commit, task_taxonomy_version, labeling_rules_version)。 重标注脚本:relabel_traces.py 可从原始事件数据重新计算所有风险信号并生成汇总统计。 任务注册表:完整的147个任务列表定义于 src/mcphunt/taxonomy.py。 模型配置:添加新模型仅需一个YAML配置条目,支持任何OpenAI兼容的端点。 检查点/恢复:收集工具在每个追踪后保存状态,支持从API中断中恢复。 论文中引用的开源项目: MCP服务器(论文中用于评估的8个服务器): @modelcontextprotocol/server-filesystem:文件系统服务器。 mcp-server-git:Git服务器。 @modelcontextprotocol/server-memory:记忆/知识图谱服务器。 mcp-server-sqlite:SQLite数据库服务器。 mcp-server-fetch:用于HTTP请求。 mcp-server-time:用于时区查询。 shell-command-mcp:受限制的Shell命令服务器。 浏览器自动化服务器(本地实现,未指定包名)。 其他框架与工具(论文中提及但未提供具体项目链接): PRUDENTIA NeMo Guardrails Invariant 补充信息 [模型架构] 补充:在“3 Method”章节开头,论文明确定义了其威胁模型:“We study a non-adversarial setting: a user issues a legitimate task, the agent has access to k MCP servers, and no adversary manipulates prompts, tools, or data.” 这强调了本研究与主流对抗性安全评估的根本区别,是理解整个工作定位的关键前提。 ...

2026-05-01 · 更新于 2026-08-07 · 3 min · 434 words

MiniCPM-o 4.5: Towards Real-Time Full-Duplex Omni-Modal Interaction

📄 MiniCPM-o 4.5: Towards Real-Time Full-Duplex Omni-Modal Interaction #语音对话系统 #多模态模型 #端到端 #流式处理 #强化学习 🔥 8.5/10 | 前25% | #语音对话系统 | #多模态模型 | #端到端 #流式处理 | arxiv 学术质量 6.0/7 | 选题价值 1.8/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者:Junbo Cui(论文中未明确标注“第一作者”,根据作者列表排序推断) 通讯作者:未明确说明(论文中标注为“Corresponding authors”,但未指明具体个人) 作者列表:Junbo Cui, Bokai Xu, Chongyi Wang, Tianyu Yu, Weiyue Sun, Yingjing Xu, Tianran Wang, Zhihui He, Wenshuo Ma, Tianchi Cai, Jiancheng Gui, Luoyuan Zhang, Xian Sun, Fuwei Huang, Moye Chen, Zhuo Lin, Hanyu Liu, Qingxin Gui, Qingzhe Han, Yuyang Wen, Huiping Liu, Rongkang Wang, Yaqi Zhang, Hongliang Wei, Chi Chen, You Li, Kechen Fang, Jie Zhou, Yuxuan Li, Guoyang Zeng, Chaojun Xiao, Yankai Lin, Xu Han, Maosong Sun, Zhiyuan Liu, Yuan Yao. (所属机构为MiniCPM-o Team, OpenBMB,论文未提供各作者具体所属部门) 💡 毒舌点评 亮点在于将“全双工多模态交互”这一前沿概念落地为一个可运行的、高效的开源系统,其Omni-Flow框架的设计思想具有启发性。短板在于,虽然展示了强大的基础能力,但论文中对于模型在复杂、长时、动态真实场景下的“主动行为”鲁棒性和稳定性验证相对有限,更像是一个能力很强的“全能选手”初登舞台,而非经过严苛实战检验的“特种兵”。 ...

2026-05-01 · 更新于 2026-08-07 · 3 min · 461 words

Normativity and Productivism: Ableist Intelligence? A Degrowth Analysis of AI Sign Language Translation Tools for Deaf People

📄 Normativity and Productivism: Ableist Intelligence? A Degrowth Analysis of AI Sign Language Translation Tools for Deaf People #语音翻译 #伦理批判 #跨模态 📝 3.5/10 | 后50% | #语音翻译 | #伦理批判 | #跨模态 | arxiv 学术质量 1.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Nina Seron-Abouelfadil(未说明) 通讯作者:Poppy Fynes(未说明) 作者列表:Nina Seron-Abouelfadil(未说明),Poppy Fynes(未说明) 💡 毒舌点评 这篇论文的亮点在于它从一个非常规的、跨学科的视角(技术哲学与残障研究)犀利地批判了当前AI手语翻译工具中隐藏的偏见和结构性歧视,提出了“能力主义智能”这一概念,极具启发性。短板则在于它完全是一篇理论论述,缺乏任何实证数据、案例分析或技术细节来支撑其批判,更像是一篇立场鲜明的社论,而非一篇能推动技术具体改进的学术论文。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:论文中未提及。 数据集:论文中未提及。 Demo:论文中未提及。 复现材料:论文中未提及。 论文中引用的开源项目:未提及。 📌 核心摘要 问题:论文旨在批判当前AI手语翻译工具在设计、开发和应用中存在的规范性(normativity)和生产主义(productivism)倾向,认为其本质上是一种“能力主义智能”(Ableist Intelligence)。 方法:论文主要采用理论分析方法,运用雅克·埃吕尔(Jacques Ellul)的“技术系统”和“技术虚张”(Technological bluff)理论,对AI手语翻译工具的发展进行社会学和伦理学批判。 新意:与常见的技术改进型论文不同,本文的新意在于将AI工具置于技术哲学和社会批判的框架下,揭示其如何通过标准化和理性化手语,服务于生产力和效率目标,从而反而异化、边缘化了聋人群体及其文化。 实验结果:论文中未提供任何实验结果、数据或量化分析。其论点建立在理论推演和对现有现象的描述上。 实际意义:论文呼吁重新思考技术开发的目标,应从“让聋人适应工具”转向“让工具适应聋人的真实需求与文化”,强调社区参与和尊重文化特性的重要性,对AI伦理、无障碍技术开发具有警示意义。 局限性:主要局限在于缺乏经验证据。其批判虽尖锐,但未通过具体案例分析、用户研究或系统对比来验证“反生产力”的论断,结论带有一定的概括性和先验性。 🏗️ 模型架构 本文为理论批判性论文,未提出任何具体的技术模型或系统架构。因此,本部分未说明。 ...

2026-05-01 · 更新于 2026-08-07 · 1 min · 125 words