ICML 2026 语音/音频论文详细分析

ICML 2026 语音/音频论文详细分析 共分析 137 篇 ICML 2026 论文 🎯 任务分类 点击任务标签查看该方向所有论文: 音视频理解(18篇) 音视频生成(10篇) 音频分类(9篇) 音频理解(8篇) 音乐生成(8篇) 语音合成(8篇) 音视频问答(8篇) 语音识别(5篇) 语音伪造检测(4篇) 语音交互(4篇) 语音增强(4篇) 语音编码(4篇) 多模态模型(3篇) 音频伪造检测(3篇) 音频分离(2篇) 空间音频(2篇) 音频编码(2篇) 音频修复(2篇) 语音属性识别(2篇) 音频生成(2篇) ⚡ 会议概览 📥 ICML 2026 接收 6341 篇论文 → 🔍 关键词 + LLM 筛选 137 篇音频/语音/音乐相关 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #音视频理解 18篇 ██████████████████ #音视频生成 10篇 ██████████ #音频分类 9篇 █████████ #音频理解 8篇 ████████ #音乐生成 8篇 ████████ #语音合成 8篇 ████████ #音视频问答 8篇 ████████ #语音识别 5篇 █████ #语音伪造检测 4篇 ████ #语音交互 4篇 ████ #语音增强 4篇 ████ #语音编码 4篇 ████ #多模态模型 3篇 ███ #音频伪造检测 3篇 ███ #音频分离 2篇 ██ 📊 论文评分排行榜(137 篇,按分数降序) 排名 论文 评分 分档 主任务 🥇 TimeChat-Captioner: Scripting Multi-Scene Videos with T 9.4分 前10% #音视频理解 🥈 Joint Enhancement and Classification using Coupled Diff 9.3分 前10% #语音识别 🥉 Learning Tight Rejection Boundaries without Negatives f 9.3分 前10% #语音伪造检测 4. AVTrack: Audio-Visual Tracking in Human-centric Complex 9.3分 前10% #音视频理解 5. A Semantically Consistent Dataset for Data-Efficient Qu 9.2分 前10% #音频分离 6. SAM Audio: Segment Anything in Audio 9.2分 前10% #音频分离 7. MECAT: A Multi-Experts Constructed Benchmark for Fine-G 9.1分 前10% #音频理解 8. $\tau$-Voice: Benchmarking Full-Duplex Voice Agents on 9.1分 前10% #语音交互 9. PhaseCoder: Microphone Geometry-Agnostic Spatial Audio 8.7分 前25% #空间音频 10. BAT: Better Audio Transformer Guided by Convex Gated Pr 8.6分 前25% #音频分类 11. SPEAR: A Unified SSL Framework for Learning Speech and 8.4分 前25% #音频理解 12. Dual-View Predictive Diffusion: Lightweight Speech Enha 8.4分 前25% #语音增强 13. Unlocking Cross-Modal Biosignal Synthesis: A Temporally 8.3分 前25% - 14. CoLA: Cross-Modal Low-rank Adaptation for Multimodal Do 8.3分 前25% #音视频理解 15. Speech-Audio Compositional Attacks on Multimodal LLMs a 8.3分 前25% #音频理解 16. MoST: Mixing Speech and Text with Modality-Aware Mixtur 8.2分 前25% - 17. IVQ: Structured and Lightweight Vector Quantization via 8.2分 前25% #音频编码 18. Spherical Procrustes Alignment for Reliable Medical Aud 8.2分 前25% #音频分类 19. Attend to Anything: Foundation Model for Unified Human 8.2分 前25% #音视频理解 20. VocSim A Training-free Benchmark for Zero-shot Content 8.2分 前25% #音频检索 21. JAEGER: Joint 3D Audio-Visual Grounding and Reasoning i 8.1分 前25% #声源定位 22. LALM-as-a-Judge: Benchmarking Large Audio-Language Mode 8.1分 前25% #语音交互 23. Pianist Transformer: Towards Expressive Piano Performan 8.1分 前25% #音乐生成 24. Simultaneous Speech-to-Speech Translation Without Align 8.0分 前25% #语音翻译 25. PHALAR: Phasors for Learned Musical Audio Representatio 8.0分 前25% #音乐生成 26. Optimality of FSQ Tokens for Continuous Diffusion for C 8.0分 前25% #语音合成 27. SonicMaster: Towards Controllable All-in-One Music Rest 8.0分 前25% #音频修复 28. Do Audio LLMs Listen or Read? Analyzing and Mitigating 8.0分 前25% #语音属性识别 29. Multiple Choice Learning of Low-Rank Adapters for Langu 8.0分 前25% #多模态模型 30. Bridging the Stability-Expressivity Gap: Synthetic Data 8.0分 前25% #语音合成 31. FutureOmni: Evaluating Future Forecasting from Omni-Mod 8.0分 前25% #音视频问答 32. Acoustic Interference: A New Paradigm Weaponizing Acous 8.0分 前25% #音频理解 33. ReGen: Hierarchical Multi-Prompt Representation Generat 8.0分 前25% #语音编码 34. DiscoForcing: A Unified Framework for Real-Time Audio-D 8.0分 前25% #音乐生成 35. DreamID-Omni: Unified Framework for Controllable Human- 8.0分 前25% #音视频生成 36. AgentSteerTTS: A Multi-Agent Closed-Loop Framework for 7.9分 前25% #语音合成 37. STAR-VAE: Structured Topology-Aware Regularization for 7.9分 前25% #音频生成 38. HyperPotter: Spell the Charm of High-Order Interactions 7.9分 前25% #音频伪造检测 39. T2AV-Compass: Towards Unified Evaluation for Text-to-Au 7.9分 前25% #音视频生成 40. Decoupling The “What” and “Where” With Polar Coordinate 7.8分 前25% #音乐生成 41. V-LynX: Token Interface Alignment for Video+X LLMs 7.8分 前25% #音视频问答 42. Ariadne’s Thread of LipSync: Unraveling Forgeries via I 7.8分 前25% #音视频理解 43. SONAR: Spectral‑Contrastive Audio Residuals for General 7.8分 前25% #语音伪造检测 44. TMD-Bench: A Multi-Level Evaluation Paradigm for Music– 7.7分 前25% #音视频生成 45. AudioMosaic: Contrastive Masked Audio Representation Le 7.7分 前25% #音频分类 46. BFCL Audio: An Audio Function Calling Evaluation for La 7.7分 前25% #语音交互 47. SALSA-V: Shortcut-Augmented Long-form Synchronized Audi 7.6分 前25% #音视频生成 48. BEAT: Tokenizing and Generating Symbolic Music by Unifo 7.6分 前25% #音乐生成 49. From Inpainting to Editing: Unlocking Robust Mask-Free 7.6分 前25% #扩散模型 50. Hearing Without Noticing? Attention-Aware Stealthy Blac 7.6分 前25% #语音识别 51. AVGen-Bench: A Task-Driven Benchmark for Multi-Granular 7.6分 前25% #音视频生成 52. Alethia: a Foundational Encoder for Voice Deepfakes 7.6分 前25% #语音伪造检测 53. AG-REPA: Causal Layer Selection for Representation Alig 7.6分 前25% #语音合成 54. AVI-Bench: Toward Human-like Audio-Visual Intelligence 7.6分 前25% #音视频理解 55. Two-dimensional quantization for geometry-aware audio c 7.6分 前25% #语音编码 56. Abstraction Induces the Brain Alignment of Language and 7.5分 前25% #语音编码 57. Self-Guidance: Enhancing Neural Codecs via Decoder Mani 7.5分 前25% #语音编码 58. OmniVideo-R1: Reinforcing Audio-visual Reasoning with Q 7.5分 前25% #音视频问答 59. Listening Through the Noise: Cauchy-Driven Diffusion Br 7.4分 前50% #音频修复 60. MoshiRAG: Asynchronous Knowledge Retrieval for Full-Dup 7.4分 前50% - 61. Omni-Perception Policy Optimization for Multimodal Emot 7.4分 前50% #音视频理解 62. video-SALMONN S: Memory-Enhanced Streaming Audio-Visual 7.3分 前50% #音视频问答 63. Group Cognition Learning: Making Everything Better Thro 7.3分 前50% #音视频理解 64. REST: Diffusion-based Real-time End-to-end Streaming Ta 7.3分 前50% #音视频生成 65. PhoStream: Benchmarking Real-World Streaming for Omnimo 7.3分 前50% #音视频问答 66. ProactiveLLM: Learning Active Interaction for Streaming 7.2分 前50% #语音识别 67. Stream RAG: Instant and Accurate Spoken Dialogue System 7.2分 前50% #流式处理 68. Probing Cross-modal Information Hubs in Audio-Visual LL 7.2分 前50% #音视频理解 69. Efficient Multi-modal Dataset Distillation via Analytic 7.2分 前50% #对比学习 70. Self-Supervised Flow Matching for Scalable Multi-Modal 7.2分 前50% #音视频生成 71. CoCoEmo: Composable and Controllable Human-Like Emotion 7.1分 前50% #语音合成 72. Scaling Transformers for End-to-End Discrete Audio Toke 7.1分 前50% #音频编码 73. Query-Based Asymmetric Modeling with Decoupled Input–Ou 7.1分 前50% #语音增强 74. OmniSIFT: Modality-Asymmetric Token Compression for Eff 7.1分 前50% #音视频问答 75. Sparse Autoencoders for Interpretable Emotion Control i 7.0分 前50% #语音合成 76. The Silent Thought: Modeling Internal Cognition in Full 7.0分 前50% #知识蒸馏 77. Hidden in Plain Tokens: Simply Robust, Gradient-Free Wa 7.0分 前50% #音频水印 78. Efficient Distributed MLLM Training with Cornstarch 7.0分 前50% #音视频理解 79. Reasoning LLM Improves Speaker Recognition in Long-form 7.0分 前50% - 80. Real-World Unsupervised Models Generalize to Predict Br 6.9分 前50% #模型评估 81. From Talking to Singing: A New Challenge for Audio-Visu 6.9分 前50% #音视频理解 82. OmniShow: Unifying Multimodal Conditions for Human-Obje 6.9分 前50% #音视频生成 83. E-VAds: An E-commerce Short Videos Understanding Benchm 6.9分 前50% #音视频问答 84. STARCaster: Spatio-Temporal AutoRegressive Video Diffus 6.8分 前50% #音视频生成 85. Zero-Shot Rankability: Revealing Latent Ordinal Structu 6.8分 前50% #音视频理解 86. An Exterior Method for Nonnegative Matrix Factorization 6.8分 前50% #音频分类 87. FoeGlass: Simple In-Context Learning Is Enough for Red 6.8分 前50% #语音伪造检测 88. Native Active Perception as Reasoning for Omni-Modal Un 6.8分 前50% #音视频理解 89. Unlocking Speech–Text Compositional Powers: Instruction 6.7分 前50% #语音交互 90. UltraLIF: Fully Differentiable Spiking Neural Networks 6.7分 前50% #音频分类 91. Towards Streaming Synchronized Spatial Audio Generation 6.6分 前50% #音视频生成 92. TextME: Bridging Unseen Modalities Through Text Descrip 6.6分 前50% - 93. Evaluating and Rewarding LALMs for Expressive Role-Play 6.6分 前50% #语音合成 94. PADS-TAL: Padding-Annealed Diffusion Sampling in Text-A 6.6分 前50% #音乐生成 95. ADEPT: RL-Aligned Agentic Decoding of Emotion via Evide 6.5分 前50% #语音情感识别 96. Universal Algorithm-Implicit Learning 6.5分 前50% #音频分类 97. SARSteer: Safeguarding Large Audio Language Models via 6.5分 前50% - 98. MetaPerch: Learning from metadata for bioacoustics foun 6.5分 前50% #音频分类 99. Polyphonia: Zero-Shot Timbre Transfer in Polyphonic Mus 6.5分 前50% #音乐生成 100. CMI-RewardBench: Evaluating Music Reward Models with Co 6.4分 前50% #音乐生成 101. Multimodal Fact-Level Attribution for Verifiable Reason 6.4分 前50% #音频理解 102. MedMosaic: A Challenging Large Scale Benchmark of Diver 6.4分 前50% #音频理解 103. INFER: Learning Implicit Neural Frequency Response Fiel 6.4分 前50% #空间音频 104. Characterizing the Predictive Impact of Modalities with 6.4分 前50% - 105. PCRNet: Phase-aware Complex Refinement Network for EEG- 6.4分 前50% #实时处理 106. OmniFit: Bridging Modalities via Layer-Adaptive Token C 6.3分 前50% #音视频理解 107. EchoingPixels: Aliasing-Resistant Joint Token Reduction 6.3分 前50% #音视频理解 108. Quaternion Self-Attention with Shared Scores 6.3分 前50% #语音增强 109. LightAVSeg: Lightweight Audio-Visual Segmentation 6.3分 前50% #模型压缩 110. SURF: Separation via Unsupervised Remixing Flow 6.2分 前50% #语音分离 111. Neural-Inspired Modeling of Auditory Selection and Comp 6.2分 前50% #音视频语音分离 112. AuTAgent: A Reinforcement Learning Framework for Tool-A 6.2分 前50% #音频理解 113. Multimodal Latent Language Modeling with Next-Token Dif 6.1分 前50% #语音合成 114. FakeWorld 1.0: An Omni-modal Benchmark for Fake Media a 6.1分 前50% #可解释性 115. ConsMSA: Semantic Distribution Consistency Learning for 6.1分 前50% #多模态模型 116. MusicDET: Zero-Shot AI-Generated Music Detection 6.1分 前50% #音频伪造检测 117. Convex Low-resource Accent-Robust Language Detection in 6.0分 前50% #语音识别 118. NeuroCLUS: A Foundation Model with Functional Clusterin 6.0分 前50% #语音识别 119. Sparse Tokens Suffice: Jailbreaking Audio Language Mode 5.9分 前50% #模型剪枝 120. Scaling Behavior in Model Fine-tuning for Audio DeepFak 5.9分 前50% #音频伪造检测 121. Bioacoustic Geolocation: Species Sounds as Geographic S 5.8分 前50% #音频理解 122. AudioChat: Unified Audio Storytelling, Editing, and Und 5.8分 前50% #音频生成 123. Omni-Diffusion: Unified Multimodal Understanding and Ge 5.8分 前50% - 124. Robust Signal Enhancement via Fractional Detail Views a 5.7分 前50% #语音增强 125. Multimodal Fusion via Self-Consistent Task-Gradient Fie 5.5分 前50% #鲁棒性 126. NAACA: Training-Free NeuroAuditory Attentive Cognitive 5.5分 前50% #音频事件检测 127. Language Model Augmented Semi-Supervised Statistical In 5.4分 后50% #语音属性识别 128. MER-DG: Modality-Entropy Regularization for Multimodal 5.4分 后50% #音视频理解 129. Towards Understanding Modality Interaction in Multimoda 5.3分 后50% #音视频理解 130. Stable Spectral Copula Alignment for Robust Multimodal 5.2分 后50% #鲁棒性 131. Multimodal Meta-Verifier with Explicit Structured Recal 5.2分 后50% #多模态模型 132. WaveSSM: Multiscale State-Space Models for Non-stationa 4.8分 后50% #音频分类 133. Efficient, Property-Aligned Fan-Out Retrieval via RL-Co 4.7分 后50% #音乐检索 134. VIBE: Disentangling Social Dynamics via Kinematics-Info 4.6分 后50% - 135. UniFLoW: Universal Multi-Modal Federated LoRA Fine-Tuni 4.4分 后50% #音视频问答 136. Rethinking Attention in Spiking Transformers: Overcomin 3.6分 后50% #音频分类 137. PRIM:Cooperative Dynamic Token Compression for Efficien 3.6分 后50% #音视频理解 📋 论文列表 🥇 TimeChat-Captioner: Scripting Multi-Scene Videos with Time-Aware and Structural Audio-Visual Captions 🔥 9.4/10 | 前10% | #音视频理解 | 创新 1.7/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 影响 0.9/1.5 | 开源 1.5/1.5 ...

2026-07-04 · 更新于 2026-08-14 · 108 min · 22980 words

AI-Guided Learning: Research on Knowledge and Skill Acquisition Support Methods Using Deep Learning Audio-Video Processing Techniques

📄 AI-Guided Learning: Research on Knowledge and Skill Acquisition Support Methods Using Deep Learning Audio-Video Processing Techniques ℹ️ 本文基于论文全文节选生成,超出分析上下文上限的内容未纳入。 标签:#音视频理解 #自监督学习 #语音识别 #语音质量评估 #教育 6.3/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 6.3/10 | 前50% | 文档类型:系统技术报告 | 评分置信度:中 | #音视频理解 | #自监督学习 | #语音识别 #语音质量评估 | arxiv 👥 作者与机构 第一作者:Kazuki Kawamura(河村和紀,东京大学研究生院跨学科信息学府) 通讯作者:未说明(论文指导教师为Jun Rekimoto,暦本純一,东京大学) 作者列表:Kazuki Kawamura(东京大学)、Jun Rekimoto(东京大学) 💡 毒舌点评 以三个可独立发表的工作拼出完整教育闭环,AIxSpeed 用 ASR 识别表现代理人类听感并验证到约 0.99 的相关性是全文最有价值的洞见。但三个系统的用户实验规模偏小且多处关键统计检验缺位(MOS 未做显著性检验、Profy 不做配对检验),整体像是“三个 demo 各自带一篇短文”的合集而非深度验证的博士论文。 ...

2026-08-11 · 更新于 2026-08-14 · 4 min · 684 words

AVCap: Reinforcing Audio-Video Joint Caption with Detail-Aware Reward

📄 AVCap: Reinforcing Audio-Video Joint Caption with Detail-Aware Reward 标签:#音频字幕生成 #强化学习 #音视频理解 #基准测试 #数据集 8.4/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 8.4/10 | 前25% | 文档类型:方法研究 | 评分置信度:中 | #音频字幕生成 | #强化学习 | #音视频理解 #基准测试 | arxiv 👥 作者与机构 第一作者:Mingyang Wu(MMLab, CUHK) 通讯作者:原文标注Corresponding author,但未指明具体人物 作者列表:Mingyang Wu(MMLab, CUHK)、Kaituo Feng(MMLab, CUHK)、Bohao Li(MMLab, CUHK)、Kaixiong Gong(MMLab, CUHK)、Zihao Yin(Peking University)、Xiangyu Yue(MMLab, CUHK) 💡 毒舌点评 亮点在于打通了"数据标注—奖励设计—评测"三位一体的闭环:AVCap-100K提供高密度原子级标注,Da-GRPO将奖励细化为原子事实级QA验证,AVCap-Score用同一套探针逻辑做评测。训练与评估在同一粒度的原子事实上对齐,是领域内少见的完整工程实践。7B模型仅靠SFT数据就能在Video-SALMONN-2上从41.7降到36.8(低于此前开源SOTA AVoCaDO的37.3),说明数据质量确实有实质贡献。 ...

2026-08-11 · 更新于 2026-08-14 · 3 min · 517 words

MADBench: A Benchmark for Modality-Aware Audio Deepfake Detection

📄 MADBench: A Benchmark for Modality-Aware Audio Deepfake Detection 标签:#音视频理解 #多模态模型 #基准测试 #语音合成 #音频生成 6.6/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.5/1 | 影响 1.1/1.5 | 开源 0/1.5 | 复现 0.1/0.5 | 工程 1.2/1.5 ✅ 6.6/10 | 前50% | 文档类型:数据集与基准 | 评分置信度:中 | #音视频理解 | #多模态模型 | #基准测试 #语音合成 | arxiv 👥 作者与机构 作者列表:Yanqiu Li、Yang Xiao、Jisheng Bai、Bin Chen、Hong Jia、Ting Dang。 机构编号为 1、2、3;具体机构名称在提供的论文原文片段中未披露。 通信作者信息未披露。 💡 毒舌点评 论文把“环境音频”从被长期忽视的背景音升级成了独立伪造组件,但复现所需的代码、数据和模型权重却被藏成了未披露的第三个组件。行文与表格中存在大量排版损坏字符,读起来像从 PDF 里抢救出来的半成品;实验设计值得肯定,工程开源程度却让“rigorous foundation”显得有点嘴硬。 ...

2026-08-11 · 更新于 2026-08-14 · 3 min · 561 words

SAMOT: State-Aware Step Modulation and Optimal Transport Matching for Audio-Visual Instance Segmentation

📄 SAMOT: State-Aware Step Modulation and Optimal Transport Matching for Audio-Visual Instance Segmentation 标签:#音视频理解 #多模态模型 #模型评估 7.7/10 | 创新 1.4/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.7/10 | 前25% | 文档类型:方法研究 | 评分置信度:高 | #音视频理解 | #多模态模型 | #模型评估 | arxiv 👥 作者与机构 彭凯(Kai Peng):大连理工大学,happypk@mail.dlut.edu.cn 申云哲(Yunzhe Shen):大连理工大学 张淼(Miao Zhang):大连理工大学 刘雷野(Leiye Liu):大连理工大学 纪伟(Wei Ji):耶鲁大学 李晶晶(Jingjing Li):卡内基梅隆大学 朴永日(Yongri Piao):大连理工大学 卢湖川(Huchuan Lu):大连理工大学 注:论文模板中包含对应作者标记,但正文未将标记映射到具体姓名,按“未明确标注”处理。 ...

2026-08-11 · 更新于 2026-08-14 · 5 min · 929 words

SCoPE: Training-Free Audio-Visual Event Perception via Sparse Cross-Modal Prior Exchange

📄 SCoPE: Training-Free Audio-Visual Event Perception via Sparse Cross-Modal Prior Exchange 标签:#音视频理解 #测试时自适应 #零样本 #高效推理 7.1/10 | 创新 1.6/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.9/1.5 ✅ 7.1/10 | 前50% | 文档类型:方法研究 | 评分置信度:中 | #音视频理解 | #测试时自适应 | #零样本 #高效推理 | arxiv 👥 作者与机构 第一作者:Jaemo Jeong(KAIST) Junho Yoon(KAIST) Hyunju Kim(KAIST) Dongman Lee(KAIST,通讯作者疑似) 论文提交日期:arXiv 2608.07923v1;全部作者均来自 KAIST 💡 毒舌点评 SCoPE 把“稀疏竞争 + 跨模态代价再分配”做成了一套完全训练-free 的推理框架,在三个基准上普遍带来增益且推理仅 3.16 ms/视频,这是实打实的贡献。但它的核心对比没有做到真正公平:LLP 上对标的是 AV2A 论文里报告的旧数字,测试视频数还差 15 条(1,109 vs 1,124),不是逐视频配对;OV-AVEBench 上自己复现的 AV2A 只有 33.14 Avg,比 OV-AVEL 低近 10 个点,论文却对 AV2A 为何在换基准后崩塌没有给出解释。更值得警惕的是,ASYM(单侧证据)事件提升只有 3.6 个点,Event@evt 甚至比 AV2A 低 0.16 个点(31.04 vs 31.2),说明跨模态先验主要利好双边、长时事件,对真正难的“只闻其声/只现其影”场景帮助有限。此外代码、权重、数据一个链接都没有,关键结果无法独立验证。 ...

2026-08-11 · 更新于 2026-08-14 · 4 min · 839 words

C^2MOE: Consistency and Complementarity-guided Mixture of Experts for Incomplete Multimodal Emotion Learning

📄 C^2MOE: Consistency and Complementarity-guided Mixture of Experts for Incomplete Multimodal Emotion Learning 标签:#音视频理解 #多模态模型 #音频理解 #Transformer #模型评估 4.1/10 | 创新 1.2/2 | 严谨 0.3/1.5 | 实验 0.8/1.5 | 清晰 0.4/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.1/0.5 | 工程 0.5/1.5 📝 4.1/10 | 后50% | 文档类型:方法研究 | 评分置信度:中 | #音视频理解 | #多模态模型 | #音频理解 #Transformer | arxiv 👥 作者与机构 第一作者:Yuntao Shou(Central South University of Forestry and Technology;邮箱后缀为 xjtu.edu.cn,与署名机构不一致,原文未解释) 通讯作者:未说明 作者列表:Yuntao Shou(Central South University of Forestry and Technology)、Tao Meng(Central South University of Forestry and Technology)、Wei Ai(Central South University of Forestry and Technology)、Keqin Li(State University of New York, New Paltz, USA;另附“Xi’an, China”但机构名未说明) 💡 毒舌点评 把一致性拆给一个专家、互补性拆给另一个专家的MoE思路是有嚼头的,且实验覆盖了特定缺失与随机缺失两种设置,工作量值得肯定。但核心信息论目标是自相矛盾的:一致性专家在最小化条件熵的同时又在最大化边缘熵,这在理论上并不自洽;互补预测采用最大化重构误差,实际会鼓励输出偏离真实分布。加上公式编号大面积重复、表2中多个基线数值在不同缺失率下完全相同、关键训练细节与图结构定义缺失,当前版本只能算一份不成熟的工作稿。 ...

2026-08-06 · 更新于 2026-08-14 · 4 min · 801 words

OmniPack: Unified Token Compression for Efficient Omni-modal Large Language Models

📄 OmniPack: Unified Token Compression for Efficient Omni-modal Large Language Models 标签:#音视频理解 #模型压缩 #音频理解 #Transformer #模型评估 7.7/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1.1/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.1/1.5 ✅ 7.7/10 | 前25% | 文档类型:方法研究 | 评分置信度:高 | #音视频理解 | #模型压缩 | #音频理解 #Transformer | arxiv 👥 作者与机构 作者列表:Wanshun Su, Yang Shi, Feihu Liu, Ziwen Yu, Yan Min, Zhuoran Zhang, Qixun Wang, Haotian Wang, Shixuan Liu, Yuanxing Zhang, Peng Wu, Chengfu Huo, Liang Ding。 标注信息:Wanshun Su 与 Yang Shi 为共同一作;Peng Wu 与 Liang Ding 为通讯作者。 机构信息:1. Northwestern Polytechnical University;2. Peking University;3. Alibaba Group;4. Tsinghua University。 开源链接:https://github.com/RowanSu/OmniPack ...

2026-08-06 · 更新于 2026-08-14 · 6 min · 1098 words

Adaptive Modality Reliability Diagnosis and Restoration for Robust Multimodal Intent Recognition

📄 Adaptive Modality Reliability Diagnosis and Restoration for Robust Multimodal Intent Recognition 标签:#音视频理解 #多模态模型 #音频理解 #Transformer #模型评估 6.4/10 | 创新 1.4/2 | 严谨 1.1/1.5 | 实验 1.1/1.5 | 清晰 0.9/1 | 影响 0.9/1.5 | 开源 0/1.5 | 复现 0.1/0.5 | 工程 0.9/1.5 ✅ 6.4/10 | 前50% | 文档类型:方法研究 | 评分置信度:中 | #音视频理解 | #多模态模型 | #音频理解 #Transformer | arxiv 👥 作者与机构 第一作者:Suraj Kumar(未说明) 通讯作者:Soumi Chattopadhayay(Indian Institute of Technology Indore) 作者列表:Suraj Kumar(未说明)、Mohnish Raj(未说明)、Soumi Chattopadhayay(Indian Institute of Technology Indore)、Chandranath Adak(未说明)、Ayan Dutta(未说明) 💡 毒舌点评 PRIME 采用闭环“诊断-修复-重评估”范式处理多模态不可靠问题,想法有洞察且模块设计完整。但训练高度依赖合成 corruption,与真实世界退化分布的一致性完全未经验证,这削弱了可靠性估计在真实场景中的说服力。在只包含两个中小规模对话数据集的基准上验证,缺少对大规模、流式或极端缺失场景的泛化性证据,让人质疑方法的可扩展性。此外,大量关键训练超参数和实现细节的缺失使得复现困难重重。 ...

2026-08-05 · 更新于 2026-08-14 · 2 min · 419 words

Rethinking Modality Reliability in Multimodal Sentiment Analysis with Incomplete Observations

📄 Rethinking Modality Reliability in Multimodal Sentiment Analysis with Incomplete Observations 标签:#音视频理解 #多模态模型 #鲁棒性 #音频理解 #Transformer 6.2/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.1/0.5 | 工程 0.8/1.5 ✅ 6.2/10 | 前50% | 文档类型:方法研究 | 评分置信度:高 | #音视频理解 | #多模态模型 | #鲁棒性 #音频理解 | arxiv 👥 作者与机构 第一作者:Chunlei Meng(复旦大学) 通讯作者:Chun Ouyang(复旦大学) 作者列表:Chunlei Meng(复旦大学)、Jacqueline J. Pang(未说明)、Pengbin Feng(未说明)、Zhenyu Yu(未说明)、Chun Ouyang(复旦大学)、Zhongxue Gan(复旦大学) 💡 毒舌点评 论文对不完整多模态情感分析中的模态可靠性问题给出了清晰且动机良好的诊断,显式建模的思路具有洞察力;实验对比全面,消融分析扎实。然而,可靠性代理目标完全由模型自身预测派生,存在循环论证风险,且代码与权重完全未公开,使得这一框架的真实泛用性和实现细节存疑——如果不能开源,该工作的工程参考价值将大打折扣。 ...

2026-08-05 · 更新于 2026-08-14 · 4 min · 716 words