从听懂空间场景到生成与编辑:Spatial Transfusion 解读
论文把理解一阶 Ambisonics 场景的语言模型用流匹配扩展到生成与结构化编辑,用按模态路由的 LoRA 在保留理解的同时获得可控合成,并在受控仿真评测中优于全量微调。
下方只统计已核验方向的论文记录,按已核身份去重,身份待核时按页面保留。“直接”只含明确标注该方向的论文;“含子树”同时包含下级方向。点击名称进入论文库继续筛选;数量与上方按标签名称收录的页面数不同。
论文把理解一阶 Ambisonics 场景的语言模型用流匹配扩展到生成与结构化编辑,用按模态路由的 LoRA 在保留理解的同时获得可控合成,并在受控仿真评测中优于全量微调。
针对长时高采样音频序列过长导致自注意力平方复杂度与整段一次性生成难以流式扩展的问题,MFlowAudio 用时间与通道双路 Mamba 建模潜在表示并用有状态流匹配实现分块训练生成,在 AudioCaps 等条件下保持与基线可比的生成质量并将首块延迟固定在 1.8 秒左右,但动态切换语义与边界自然度之间仍需权衡。
共分析 21 篇语音/AI 论文
论文先保留已调好的稠密混响特性,再把反馈矩阵拟合为固定置换加小正交块的分级乘积,并在 Apple M2 上以更少的存储和更短的反馈乘法时间逼近原频响与听感,但结论只在给定延迟增益衰减与测试条件下成立。
共分析 47 篇语音/AI 论文
TAC2 先用弱教师在时间轴上拼出带说话人的结构化描述,再用小样本专家引出韵律属性并蒸馏为统一模型,让冻结文本模型接力推理、让扩散模型按时间重建,在口语感知与可控合成上得到可验证的提升。
Modaliff 把条件和目标拼成一条统一令牌序列做去噪,只用双模态对子训练就支持任意方向生成,在多数任务上取得较好的保真度,但结论依赖紧凑语义隐空间和固定评测集。
共分析 57 篇语音/AI 论文
vst-bench-ml 用参数采样加独立宿主渲染来生成音频,并用密封清单绑定软件身份与文件哈希,在固定的 macOS arm64 与 Python 3.12 环境下复现了计划哈希与八个输出哈希,但不证明跨平台可移植与科学适用性。
共分析 69 篇语音/AI 论文
针对带噪语音条件导致生成语义偏移与轨迹不稳的问题,AlignAudio 先用适配器拉近干净与带噪表征,再用方向一致约束拉齐干净与带噪条件下的流匹配速度场,在语音到音频与语音转换任务上用噪声、域外与实录条件验证了条件保真度的提升与干净条件的保持。
论文以行为文本控制动物叫声生成,用发声锚点把六个物种录音与文献行为知识成组配对,在 TangoFlux 上微调并用事件感知变长掩码聚焦真实事件,主结果支持微调全面改善与变长进一步提升判别力和声学保真度,但结论只限于已见行为的新表述与给定目标时长条件。
PhysicsSliders 用在线模态仿真产生的接触声训练流匹配生成器,学习硬度、尺寸、速度和阻尼等物理输入,并在 18 类真实敲击录音的等效阻尼目标上验证了目标跟随与双目标联合控制,代价是持续摩擦声覆盖范围不足且需要厚度信息才能同时定准频率。
共分析 146 篇语音/AI 论文
论文指出隐音频生成中解码器训练用编码器隐变量而推理用生成器隐变量的不一致,用加噪再经冻结扩散模型去噪构造的中间隐变量只微调解码器,在 AudioCaps 和 MusicCaps 上降低 FD 和 FAD,代价是原 AudioX 训练的少量音频小时和单卡时间。
AutoSynth 把演奏事件、固定音色参数和可变长度调制连接组织成统一序列,用音频条件的自回归模型预测可在 Helm 中直接执行的程序,并用两阶段学习把文本经由生成音频转成可编辑控制,代价是合成器表达范围与渲染反馈开销限制了适用声音。
论文把文本条件合成器得到的 78 维配置经由基于角色的映射固定为可复用的音色塑形效果器,用四种吉他音色提示的频谱与非线性测量加打乱映射消融证明结构化分工带来提示可区分性,并用检索增强的合成器生成器提升表示的文本相似度,代价是映射为启发式且评估只限单段吉他演奏与信号级指标。
EVA 针对连续序列的下一时刻多峰预测问题,用编码器、因果解码器和自回归潜变量预测器三部分学习与后验对齐的先验,在 ImageNet 上以更少推理参数和更快祖先采样达到与自回归扩散基线可比的生成质量。
论文把冻结的分类、对齐与重建类音频嵌入接到同一个预训练扩散解码器上做配对音乐重建,用声学距离、生成空间相似度、配对检索与标签重合度量保留了多少源信息,并发现接口越细恢复越好但压缩嵌入仍保留可测的源特异性与高层音乐内容,代价是每种接口约 36 小时的微调与重建失败不能等同于信息不存在。
该论文用参考音频的关系结构来重组检索源音频的短时颗粒,再送入预训练生成器,FO 变体在保持声音类别的同时改善了时间对齐并降低了源波形局部复现,代价是离散搜索不保证全局最优且分布指标只是维持而非提升。