📄 Separate First, Fuse Later: Mitigating Cross-Modal Interference in Audio-Visual LLMs Reasoning with Modality-Specific Chain-of-Thought

#音视频问答 #多模态模型 #跨模态推理 #幻觉缓解 #强化学习 #链式思维

✅ 6.0/10 | 前50% | #音视频问答 | #结构化推理 | #多模态模型 #跨模态推理 | arxiv

学术质量 6.0/8 | 影响力 0.4/2 | 可复现性 0.3/1 | 置信度 高

👥 作者与机构

• 第一作者：Xuanchen (未说明)
• 通讯作者：未说明
• 作者列表：Xuanchen Li (未说明), Yuheng Lu (未说明), Chenrui Cui (未说明), Tianrui Wang (未说明), Zikang Huang (未说明), Yu Jiang (未说明), Long Zhou (未说明), Longbiao Wang (未说明), Jianwu Dang (未说明)

💡 毒舌点评

论文针对音视频LLM中的跨模态干扰和幻觉问题，提出了一个结构清晰、动机合理的“先分离后融合”框架。其核心贡献在于将“模态分离推理”的文本结构与“模态非对称注意力掩码”的底层计算约束相结合，并用两阶段强化学习进行训练。然而，其创新性更多体现在对已有技术（结构化CoT、自定义注意力掩码、RL奖励工程）的针对性组合与应用，而非提出根本性的新机制。此外，论文声称的“state-of-the-art”性能建立在与并非当前最强基线的对比之上，且实验缺乏统计显著性检验，这在一定程度上削弱了结论的强度。

📌 核心摘要

1. 要解决的问题：音频-视觉大语言模型在联合处理音频和视频信息时，存在严重的跨模态干扰问题。一个模态的信息会错误地引导另一个模态的解读，导致模型产生与输入证据不符的幻觉内容。作者将此归因于模型在中间推理过程中缺乏对跨模态交互的控制，以及现有的视觉主导偏差。
2. 方法核心：提出了“先分离，后融合”（SFFL）框架。该框架包含：(1) 首选证据模态（PEM）数据管道：通过在不同模态输入设置下评估模型表现，自动标注每个实例应主要依赖的模态。(2) 分离式融合音视频推理（SFR）：一个结构化的输出模板，使用控制标签强制模型先分别生成视觉和音频的独立推理链，再进行融合。(3) 模态非对称注意力掩码（MAAM）：在Transformer注意力层实施硬约束，在生成视觉推理时禁止关注音频输入，在生成音频推理时禁止关注视频输入及整个视觉推理段，从底层防止信息泄漏。训练采用两阶段的组相对策略优化（GRPO）：第一阶段仅优化结构正确性（PEM预测和SFR格式），第二阶段在此基础上加入答案正确性奖励。
3. 与已有方法相比的新颖性：与多数将音视频特征拼接后联合推理的方法不同，SFFL在推理结构和底层注意力计算上显式地分离了模态。其新颖性在于系统性地整合了PEM引导的实例级偏好、结构化的分离推理路径、以及从计算机制上杜绝跨模态泄漏的MAAM硬约束，并采用强化学习而非监督微调来习得这种推理模式。这被视为一种有效的增量式改进或应用创新。
4. 主要实验结果：在Qwen3-Omni-30B-A3B-Instruct骨干上，SFFL在跨模态幻觉基准AVHBench的平均分达到81.29，相比零样本基线提升约8.17个百分点；在三个通用AVQA基准（AVQA, Valor2, MUSIC-AVQA）的平均准确率达到80.24，相对零样本基线平均提升约5.16%。消融实验表明，MAAM是性能提升的主要稳定来源，而SFR对匹配任务（MIS）提升显著。两阶段复合奖励训练取得了最佳平衡。
5. 实际意义：为缓解多模态LLM中的跨模态干扰提供了一种结构性解决方案。通过结构化的推理路径和注意力控制来减少幻觉，提高了模型在需要精确音视频推理任务中的可靠性和鲁棒性。
6. 主要局限性：方法依赖于精心构建的PEM标签数据集。模型在训练过程中可能部分学习忽略输入信号，这可能限制其对复杂互补场景的利用。实验对比的基线并非当前最强SOTA，且缺乏对性能提升的统计显著性分析。

🔗 开源详情

• 代码：论文中提供了匿名代码仓库链接：https://anon7f3c2a.github.io/。论文提到代码库改编自 ms-swift。
• 模型权重：
  • 主干模型为 Qwen3-Omni-30B-A3B-Instruct，其权重在 Hugging Face 上可获取：https://huggingface.co/Qwen/Qwen3-Omni-30B-A3B-Instruct
  • 主干模型为 Qwen2.5-Omni-7B，其权重在 Hugging Face 上可获取：https://huggingface.co/Qwen/Qwen2.5-Omni-7B-Instruct
  • 用于计算 CoT 一致性的嵌入模型 Qwen3-Embedding-8B，其权重在 Hugging Face 上可获取：https://huggingface.co/Qwen/Qwen3-Embedding-8B
• 数据集：
  • AVQA-PEM-14K：论文自行构建的训练数据集，基于原始 AVQA 数据集。论文中未提供直接的公开下载链接。
  • 评估数据集：
    • AVHBench: https://github.com/AVHBench/AVHBench
    • AVQA (测试集): https://github.com/xudejing/video-question-answering
    • Valor32k-AVQA v2.0: https://github.com/linbaiw/Valor32k
    • MUSIC-AVQA: https://github.com/X-Lance/MUSIC-AVQA
• Demo：匿名演示地址为 https://anon7f3c2a.github.io/
• 复现材料：
  • 训练细节（超参数、硬件等）在论文的 4.2 Training Details 节有详细说明。
  • 数据构建流程的详细参数和筛选标准在附录 Appendix C Data Pipeline Details 中说明。
  • 结构化提示模板在附录 Appendix G Prompts 中提供（图5和图6）。
  • GRPO 训练的数学公式在附录 Appendix E Group Relative Policy Optimization (GRPO) 中提供。
• 论文中引用的开源项目：
  • ms-swift (代码库改编来源): https://github.com/modelscope/ms-swift
  • Qwen3-Omni系列模型 (主干): https://huggingface.co/Qwen
  • Qwen2.5-Omni系列模型 (主干): https://huggingface.co/Qwen
  • AVHBench (评估基准): https://github.com/AVHBench/AVHBench
  • AVQA (评估基准): https://github.com/xudejing/video-question-answering
  • Valor32k-AVQA v2.0 (评估基准): https://github.com/linbaiw/Valor32k
  • MUSIC-AVQA (评估基准): https://github.com/X-Lance/MUSIC-AVQA
  • VideoLLaMA2.1 (基线模型): https://github.com/DAMO-NLP-SG/Video-LLaMA
  • video-SALMONN-2+ (基线模型): https://github.com/TMElyralab/Video-SALMONN
  • DeepSeek-R1-Zero (引用工作): https://github.com/deepseek-ai/DeepSeek-R1

🏗️ 方法概述和架构

本文提出了一个名为“先分离，后融合”（SFFL）的框架，旨在通过结构化的推理路径和针对性的训练，减轻音频-视觉大语言模型在推理过程中的跨模态干扰。整个框架是一个多阶段的流水线，包括数据准备、结构化推理提示设计、注意力机制控制以及基于强化学习的训练。

1. 整体流程概述 输入为一个问题和对应的音视频片段。模型首先进行一个“分离阶段”：在受限的注意力下，分别生成独立的音频推理链和视觉推理链，并预测一个“首选证据模态”（PEM）。随后进入“融合阶段”：模型综合两条推理链和PEM，生成最终答案。整个推理过程由特定的控制标签引导，并通过一个两阶段的强化学习过程进行训练，以优化推理结构和答案准确性。

2. 主要组件/模块详解

• 首选证据模态（PEM）数据管道

  • 功能：为训练集自动标注每个实例的PEM标签，指示对于当前问题，模型应该主要依赖音频、视觉还是二者共同证据，以缓解视觉主导偏差并引导自适应模态偏好。
  • 内部结构/实现：这是一个离线数据预处理流程。对于每个原始AVQA实例，构建三种输入设置：仅音频（A）、仅视频（V）、音视频（AV）。在每种设置下，使用预训练模型（Qwen3-Omni-Instruct）进行 n=8 次随机采样，生成候选答案和推理链。根据两个标准判断该设置下问题是否“可解”：(i) 答案正确率 ≥ τ_acc (0.75)；(ii) 推理链一致性（基于Qwen3-Embedding-8B的平均成对嵌入相似度）≥ τ_cons (0.8)。根据（A, V, AV）三种设置的可解模式组合进行分类：若A和AV可解但V不可解，标记PEM=音频；若V和AV可解但A不可解，标记PEM=视觉；若A和V不可解但AV可解，标记PEM=音视频。丢弃模糊、矛盾或过于简单的实例。
  • 输入输出：输入是原始AVQA实例（问题+音视频）。输出是带有PEM标签的训练数据集（AVQA-PEM-14K），约14k实例。

• 分离式融合音视频推理（SFR）

  • 功能：通过定义一个结构化的输出模板，在文本层面强制模型先进行模态分离推理，再进行融合，为分离推理提供高层的框架约束。
  • 内部结构/实现：定义了一组控制标签：（标记PEM预测）、…（视觉推理段）、…（音频推理段）、…（融合摘要段）、…（最终答案）。模型输出必须严格遵循格式：[<mod>m</mod> <v>视觉推理</v> <a>音频推理</a> <sum>融合摘要</sum> <ans>答案</ans>]。和段被设计为在理想情况下互不访问对方模态的原始输入（此约束由MAAM实现），从而在文本生成阶段实现“分离”。
  • 输入输出：输入是问题、音视频特征以及指令提示。输出是遵循上述格式的文本序列。

• 模态非对称注意力掩码（MAAM）

  • 功能：在Transformer模型的注意力计算层面，对不同推理段施加不对称的可见性约束，防止信息泄漏，是实现真正“分离”的关键底层机制。
  • 内部结构/实现：MAAM是对标准因果注意力掩码的增强。定义了几个token位置集合：视频输入 token 集合 K^V，音频输入 token 集合 K^A，视觉推理段 token 集合 Q^v（位于…内），音频推理段 token 集合 Q^a（位于…内），整个视觉推理段位置集合 K^v（包含Q^v及边界标签）。最终注意力掩码 M = M^{causal} + M^{MAAM}。M^{MAAM}的规则为：
    1. 当查询位置 i ∈ Q^v 时，禁止关注任何键位置 j ∈ K^A。
    2. 当查询位置 i ∈ Q^a 时，禁止关注任何键位置 j ∈ K^V。
    3. 当查询位置 i ∈ Q^a 时，禁止关注任何键位置 j ∈ K^v。 其他查询-键对遵循默认因果可见性（即 M_{ij}^{MAAM} = 0）。在实现时，通过扫描序列识别控制标签和模态指示token来定位这些集合，并实例化一个布尔掩码矩阵。训练时构建一次并广播；自回归推理时逐行更新，仅引入 O(L) 额外开销。
  • 输入输出：输入是序列中每个token的位置类型（属于哪个模态输入或推理段）。输出是应用于注意力权重的 L×L 掩码矩阵。

• 两阶段GRPO强化学习训练

  • 功能：通过设计可验证的奖励函数，训练模型学会遵循SFFL的推理结构并产生正确答案，而非通过SFT强加模式。
  • 内部结构/实现：
    1. 第一阶段（结构对齐）：奖励仅为 R_{mps}（模态偏好与结构奖励）。当且仅当模型预测的PEM正确且输出结构完全匹配SFR格式时，奖励为1，否则为0。此阶段专注于让模型学会生成符合要求的推理结构和PEM预测。
    2. 第二阶段（答案优化）：奖励为复合奖励 R_{stage2} = λ_acc * R_acc + λ_mps * R_mps。其中 R_acc 是答案正确性奖励（答案正确则为1）。权重设置为 λ_acc=1.0, λ_mps=0.2。此阶段在保持结构约束的同时，优化答案准确性。 训练算法采用GRPO，通过比较一组候选回答的奖励来计算优势，并更新策略模型。损失函数包含KL散度惩罚以防止策略偏离参考策略过远。具体超参数：第一阶段学习率1e-5，全局batch size 96，rollouts=4；第二阶段学习率1e-6，batch size 48，rollouts=4。骨干模型为Qwen3-Omni-30B-A3B-Instruct，使用LoRA微调。
  • 输入输出：输入是AVQA-PEM-14K训练数据（问题+音视频）和奖励函数。输出是优化后的模型参数。

3. 组件间的数据流与交互 数据流是单向的：原始数据 → PEM数据管道 → 带PEM标签的训练集 → 两阶段GRPO训练。在训练和推理阶段，输入（问题+音视频）进入LLM骨干网络，输出受SFR模板约束的文本序列。为了保证SFR模板的“分离”在模型内部也成立，在计算注意力时动态应用MAAM。R_{mps}奖励的计算需要解析模型输出中的PEM和结构，R_{acc}需要解析最终答案。整个系统是一个端到端可微（对于策略梯度）的框架。

4. 关键设计选择及动机

• 选择结构化CoT而非简单拼接：动机是联合推理会导致干扰，结构化分离能提供明确的控制点。
• 选择MAAM而非仅靠提示：动机是因果注意力机制在没有约束的情况下，即使文本用<v>分开，底层仍可能通过注意力访问不该访问的模态信息，MAAM从机制上杜绝了这种泄漏。
• 选择强化学习而非监督微调：动机是SFR格式是一种需要学习的“行为”，而非简单的输入-输出映射。RL奖励可以直接针对格式和答案正确性进行优化，避免了SFT可能覆盖模型原有能力的风险（如SFT实验所示，泛化性下降）。
• 将PEM预测置于推理链最前：论文在附录F中解释，如果将PEM放在分离推理之后，它就变成了事后归因而非事前控制信号，失去了引导证据使用的作用。

5. 多阶段/多模块逐层展开

1. 数据准备阶段：运行PEM数据管道，构建AVQA-PEM-14K数据集。
2. 模型训练阶段：
   • 阶段一（结构对齐）：在AVQA-PEM-14K上进行GRPO训练，奖励仅为R_{mps}，目标是让模型学会生成正确的SFR格式和PEM预测。
   • 阶段二（答案优化）：继续在同一数据集上进行GRPO训练，奖励变为R_acc + 0.2*R_{mps}，目标是在保持结构正确的前提下，提升答案准确性。
3. 推理阶段：给定新的问题和音视频，模型在MAAM的约束下，生成符合SFR格式的完整输出，最终从<ans>标签中提取答案。

6. 架构图/流程图

• 图2（SFFL框架概述）清晰展示了整体流程：左侧为PEM数据管道，通过对比A/V/AV三种输入下的表现来标注PEM标签。右侧为SFFL推理与训练流程。在LLM内部，通过MAAM注意力掩码的控制，模型先生成独立的视觉推理（段）和音频推理（段），此过程中模态隔离。然后生成融合摘要（段）和最终答案（段）。整个输出结构由控制标签引导。训练则采用两阶段GRPO，分别优化结构奖励（R_mps）和复合奖励（R_acc + R_mps）。
• 图2（右下部分）也包含了MAAM的示意图，展示了注意力矩阵的约束规则：在生成视觉推理（…）时，其注意力行只能看到视觉输入（Video Tokens）和之前文本，但看不到音频输入（Audio Tokens）；在生成音频推理（…）时，其注意力行既看不到视频输入，也看不到整个视觉推理段（…）。这种不对称的可见性从底层计算上保证了分离推理的有效性。

7. 专业术语解释

• 跨模态干扰：指一个模态（如视觉）的特征或信息会干扰模型对另一个模态（如音频）信息的正确解析，导致错误理解或生成。
• 首选证据模态（PEM）：一个数据层面的标签，指示对于一个特定的问答实例，哪一种模态（音频、视觉或两者）提供了足以回答问题的关键、可靠证据。
• 模态非对称注意力掩码（MAAM）：一种定制的注意力掩码，对序列中不同部分（按模态或推理阶段划分）的相互可见性施加不同的规则，以实现信息隔离。
• 组相对策略优化（GRPO）：一种强化学习算法，通过比较一组（Group）采样结果的奖励来计算优势，进而更新策略，相较于REINFORCE方差更低。
• 分离式融合音视频推理（SFR）：一种结构化的提示模板，强制LLM在生成过程中先产生模态分离的推理链，再进行证据融合。

💡 核心创新点

1. 系统性的模态分离推理范式：

   • 是什么：通过SFR模板（文本结构）和MAAM（计算约束）的协同，构建了一个从高层语义到底层计算的完整模态隔离框架，强制模型在推理过程中先独立处理各模态信息。
   • 之前局限：已有方法要么仅将音视频token拼接进行无约束联合推理，容易导致信息污染；要么仅在文本层面用标签分隔，但底层注意力机制仍允许信息泄漏。
   • 如何起作用：SFR提供了分离推理的“蓝图”，MAAM则确保“蓝图”在计算层面不被违反，二者结合实现了从“意图”到“执行”的完整分离控制。
   • 收益：消融实验表明，同时使用SFR和MAAM能带来最稳定和显著的性能提升，尤其在缓解幻觉相关指标（如AVH）上。

2. 基于自动探针的实例级模态偏好引导：

   • 是什么：PEM数据管道通过在不同模态输入下“探针”模型能力，自动标注实例级的模态偏好标签，并将此标签作为强化学习的奖励信号的一部分。
   • 之前局限：现有AVLM普遍存在视觉主导偏差，且缺乏有效机制让模型自适应地根据问题决定依赖哪种模态。
   • 如何起作用：PEM标签提供了“本题应侧重听什么/看什么”的学习信号。将其融入奖励函数（R_{mps}），促使模型学会预测正确的模态偏好，并依据该偏好进行推理。注意力分析（图3）显示，训练后的模型在融合阶段对不同模态推理链的注意力分配与预测的PEM高度一致。
   • 收益：表3的消融实验表明，使用预测的PEM进行推理，性能接近使用“上帝视角”的Oracle-PEM，显著优于随机PEM，验证了PEM学习和引导的有效性。

📊 实验结果

论文在两类基准上进行了评估：跨模态幻觉基准（AVHBench，包含VAH、AVH、MIS三个子任务）和通用音频-视觉问答基准（AVQA, Valor2, MUSIC-AVQA）。

表1：论文主要结果对比（关键部分，直接引用自论文）

表2：PEM原理验证实验（无训练，直接引用自论文）

表3：PEM训练有效性实验（固定SFR，直接引用自论文）

表4：SFR与MAAM组件消融实验（直接引用自论文）

表5：训练策略与奖励设计消融实验（直接引用自论文）

关键结论：

1. 主实验（表1）：SFFL在两个骨干模型上均带来提升。在Qwen3-30B上，AVHBench平均分提升8.17个百分点，通用AVQA平均分提升约3.91个百分点。提升在对抗跨模态幻觉的任务（尤其是MIS）上最为显著。
2. PEM原理验证（表2）：无训练时，强制指定与任务匹配的PEM（如VAH任务指定Audio）能提升性能，证明了PEM概念的合理性。
3. PEM有效性（表3）：训练后的模型预测PEM准确率达94.4%，其性能接近使用真实标签（Oracle），远优于随机PEM。
4. 组件消融（表4）：MAAM是带来稳定提升的核心组件。SFR单独使用对MIS提升大但对其他指标不稳定。两者结合及GRPO训练带来最佳性能。
5. 训练策略消融（表5）：SFT在有限数据上可能损害泛化。仅优化答案准确性的GRPO在域内（AVQA）好但泛化弱。仅优化结构的GRPO稳定但答案准度不足。两阶段复合奖励训练实现了最佳平衡。

🔬 细节详述

• 训练数据：AVQA-PEM-14K。通过论文所述数据管道从原始AVQA数据构建，规模约14k实例。包含每个实例的PEM标签。论文未提及使用额外数据进行预训练或微调。
• 损失函数：训练采用GRPO损失函数（公式12）。奖励函数有两个：R_{mps}（二值，结构正确且PEM正确则为1）和R_{acc}（二值，答案正确则为1）。总奖励为两者加权和。
• 训练策略：
  • Stage 1：在AVQA-PEM-14K上进行GRPO，奖励仅为R_{mps}。骨干：Qwen3-Omni-30B-A3B-Instruct。微调：LoRA。学习率1e-5，全局batch size 96，rollouts=4。
  • Stage 2：继续在同一数据集上进行GRPO，奖励为1.0R_{acc} + 0.2R_{mps}。学习率1e-6，batch size 48，rollouts=4。
• 关键超参数：骨干模型：Qwen3-Omni-30B-A3B-Instruct。微调方式：LoRA。PEM标注参数：n=8, τ_acc=0.75, τ_cons=0.8。
• 训练硬件：8块NVIDIA H20 GPU。训练时长未提及。
• 推理细节：论文未提供具体的解码温度、beam size等信息。推理时使用与训练相同的SFR模板和MAAM约束。
• 正则化技巧：使用GRPO本身包含的KL散度惩罚（β D_{KL}）以防止策略偏离参考策略过远。未提及其他正则化技巧。

⚖️ 评分理由

创新性：1.5/3 论文提出了一个清晰的框架（SFFL）来解决一个重要的问题（跨模态干扰）。其创新在于将结构化CoT、自定义注意力掩码（MAAM）和强化学习针对音视频干扰问题进行了有洞察力的组合与定制，并设计了PEM数据和奖励作为引导。这些组件本身并非首次提出，因此属于有效的增量改进或应用创新，而非提出全新的算法或理论。

技术严谨性：1.0/2 论文对问题动机、方法各组件的设计阐述清晰。MAAM的形式化定义明确。消融实验设计合理。主要技术缺陷在于：1) MAAM的实现细节（如token边界扫描的高效实现）描述过于简略；2) 关键的强化学习超参数（如公式12中的α和β）在主文和附录中均未给出具体数值；3) 对MAAM带来的计算开销（O(L)）仅定性提及，缺乏实际速度对比数据。

实验充分性：1.5/2 实验设计较为全面，评估了幻觉和通用QA两类基准，进行了充分的消融实验。主要不足：1) 声称“state-of-the-art”，但对比的基线（如Gemini-3-flash, VideoLLaMA2.1）并非当前最强模型，缺乏与GPT-4o、Gemini 1.5 Pro等顶级闭源模型或同架构下更强微调方法的对比；2) 所有实验结果均未报告误差线或进行显著性检验，无法判断性能提升的统计稳定性；3) 在MUSIC-AVQA上提升相对较小，论文归因于训练数据偏差，但未提供深入分析。

清晰度：1.0/1 论文结构清晰，写作流畅。图表直观地展示了方法和结果。关键概念定义和符号使用一致。公式表述准确。附录提供了大量补充信息。对于复现核心方法，主文和附录的信息基本足够。

影响力：0.5/1 该工作针对多模态LLM中的一个实际痛点提出了具体的解决方案。其“分离-融合”的思路和PEM的引导思想可能启发后续工作。然而，方法依赖于特定的骨干模型架构和训练框架，且主要贡献集中在一个相对垂直的任务上，其广泛影响力受限。

可复现性：0.5/1 论文提供了匿名代码仓库链接和数据集构建的详细描述。训练超参数在附录中部分给出。这提供了较好的复现基础。然而，1) 代码链接是匿名的，最终开源情况未知；2) 自建的AVQA-PEM-14K数据集未提供公开下载；3) 复现依赖于对特定版本骨干模型和训练框架的精确配置，有一定门槛。

总分：6.0/10

🚨 局限与问题

1. 论文明确承认的局限：

• 附录B (Limitations and Future Directions): 作者指出，SFFL训练的目的不是注入新知识，而是重塑推理模式以减少干扰。作者承认模型在部分地学习忽略输入信号。未来的一个方向是研究如何生成更详细、更少幻觉的音视频描述，同时保持模态分离。
• 数据管道局限：PEM标签的构建依赖于一个预训练模型（Qwen3-Omni-Instruct）的多次采样和判断，可能引入该模型自身的偏差。

2. 审稿人发现的潜在问题：

• 基线对比的“SOTA”声称不足：论文声称达到“state-of-the-art performance”，但表1中对比的基线并非当前（2025年）最强的音视频理解模型。缺乏与最新、最强闭源模型（如GPT-4o）或同架构下更优微调方法的直接对比，其SOTA声明的说服力不足。
• 缺乏统计显著性分析：所有实验结果均未报告标准差或进行假设检验，无法判断观察到的性能提升在统计上是否显著，尤其是在不同运行次数下。
• MAAM效率与泛化性分析缺失：虽然声称MAAM引入O(L)的额外开销，但未提供实际训练和推理速度的对比数据。MAAM的规则是手工设计的，对于更复杂的模态交互模式（如强互补）是否普适，缺乏分析。
• PEM标签的启发式依赖：构建PEM标签时使用的正确率阈值（τ_acc）和一致性阈值（τ_cons）是超参数，其选择会影响标签分布和最终性能。论文未探讨这些阈值对结果的影响（敏感性分析）。
• “部分忽略输入”的潜在风险：论文提到模型“部分地学习了忽略输入信号”。在需要深度融合互补信息的场景中，这种强分离策略是否会损害性能，值得进一步研究。
• 错误分析缺失：论文没有提供失败案例的系统性分析，例如在哪些类型的问题上SFFL仍然会失败，这有助于更深入地理解方法的边界。

← 返回 2026-05-12 论文速递