音频生成

📄 Geo2Sound: A Scalable Geo-Aligned Framework for Soundscape Generation from Satellite Imagery #音频生成 #多模态模型 #基准测试 #数据集 🔥 评分：8.5/10 | arxiv 👥 作者与机构 第一作者：Kunlin Wu（香港科技大学（广州）） 通讯作者：根据论文署名和致谢信息，推测通讯作者可能为 Xiaofeng Liu（香港科技大学（广州）），论文中未明确标注。 其他作者： Yanning Wang（香港科技大学（广州）） Haofeng Tan（南卡罗来纳大学，美国） Boyi Chen（香港科技大学（广州）） Teng Fei（坎特伯雷大学，新西兰） Xianping Ma（西南交通大学，中国） Yang Yue（香港科技大学（广州）） Zan Zhou（北京邮电大学，中国） Xiaofeng Liu（香港科技大学（广州）） 💡 毒舌点评 亮点：这篇论文想象力爆棚，硬是把“看卫星图猜声音”这个看似不着边际的想法，做成了一个有模有样的系统任务，还搭了个大规模数据集，属实是“跨模态整活”的典范。槽点：方法上有点“拼积木”的意思，依赖现成的视觉模型、语言模型和音频生成模型，自己核心的“对齐”模块虽然巧妙但略显单薄，像是在给一堆大佬打补丁，创新性更多体现在任务定义和工程整合上。 🔗 开源详情 代码：论文中明确提到项目主页和源代码地址为：https://github.com/Blanketzzz/Geo2Sound。代码已开源。 模型权重：论文中未明确说明是否公开预训练模型权重（如对齐模块的MLP权重）。 数据集：论文中构建的 SatSound-Bench 数据集是核心贡献之一，但文中未明确说明该数据集是否公开提供下载。从描述看，它整合了实地录制数据和多个公共数据集，其分发可能涉及版权和许可问题。 预训练权重：方法依赖多个外部预训练模型，包括：DINOv3（视觉）、GPT-5.2（文本生成）、Make-An-Audio 2（音频生成）、CLAP（音频编码）。论文中未提供这些模型的权重。 在线 Demo：论文中未提及是否有在线演示。 依赖的开源项目：论文中明确引用的开源项目/模型包括：DINOv3， GPT-5.2（推测）， Make-An-Audio 2， CLAP， AudioLDM/LDM2， Auffusion， Tango2， EzAudio， AudioX， MeanAudio， Freesound， iNaturalist Sounds， SoundingEarth。 📌 核心摘要 这篇论文提出了一个名为 Geo2Sound 的新任务和框架，旨在从卫星图像生成地理上一致且逼真的声音景观。要解决的问题是现有图像到音频模型在处理自上而下的卫星视图时面临三大挑战：缺乏结构化地理语义、一对多的声学歧义以及缺乏更广泛的地理空间上下文。方法上，它设计了一个三阶段流水线：首先通过轻量级分类器将卫星图像聚类并总结为紧凑的地理属性（如植被覆盖率、建筑密度）；然后利用大语言模型为同一场景生成多个声学上合理的文本描述（语义假设扩展），并用文本到音频模型生成对应的候选音频；最后训练一个地理-声学对齐模块，将地理属性投影到音频嵌入空间，从候选集中选择与地理环境最匹配的音频。主要发现是，该框架在自建的 SatSound-Bench 基准（包含超过2万对数据）上取得了SOTA性能，FAD指标达到1.765，比最强基线提升50%，并在人类评估的真实性、语义对齐和沉浸感方面均获得显著提升。实际意义在于为城市规划、数字孪生和虚拟现实等应用提供了一种可扩展的、从视觉数据生成环境声音的新方法。局限性在于方法依赖外部预训练模型（VLM， T2A），且数据收集和对齐的有效性高度依赖于地理属性与声音关联的假设。 ...

📄 Tora3: Trajectory-Guided Audio-Video Generation with Physical Coherence #音频生成 #音视频 #多模态模型 #扩散模型 ✅ 评分：7.8/10 | arxiv 👥 作者与机构 第一作者：Junchao Liao (阿里巴巴云计算) 通讯作者：Long Qin (阿里巴巴云计算，复旦大学)，Weizhi Wang (阿里巴巴云计算) 其他作者： Zhenghao Zhang (阿里巴巴云计算) Xiangyu Meng (阿里巴巴云计算) Litao Li (阿里巴巴云计算) Ziying Zhang (阿里巴巴云计算) Siyu Zhu (复旦大学) 机构信息：主要来自阿里巴巴云计算（具体为阿里云智能集团）和复旦大学。论文未明确标注具体实验室。 💡 毒舌点评 亮点：论文的核心洞察——将稀疏的物体轨迹从单纯的视频控制信号，提升为跨模态共享的“运动学先验”，并以此统一约束视频中的物体运动与音频中的事件时序和强度，这个切入点非常聪明且具有物理直觉，是解决音画不同步“老大难”问题的一次优雅尝试。 槽点：论文在方法描述上过于“学术八股”，把一个直观的想法包裹在复杂的公式和模块命名里（比如“Hybrid Flow Matching”本质上就是区域自适应的噪声调度）。另外，新构建的PAV数据集号称有46万条，但数据清洗和轨迹提取的细节（如CoTracker3在复杂场景下的失败案例）对结果可靠性的影响被一笔带过，有“大力出奇迹”之嫌。 🔗 开源详情 代码：论文中提到“Please view the build logs for errors. Generated by L A T E xml.” 并指向一个GitHub issue页面，暗示代码可能计划开源或部分开源，但未提供明确的GitHub仓库地址。论文中未明确提供开源代码链接。 模型权重：论文未提及是否公开预训练模型权重。 数据集：论文构建了PAV数据集（46万片段），但未提及是否公开该数据集。 预训练权重：模型从预训练的Ovi检查点初始化。 在线Demo：论文中未提及在线演示地址。 引用的开源项目：论文引用了多个开源工具和模型，包括：Qwen3-VL、SAM2、CoTracker3、Ovi、CLIP、CLAP、AudioBox-Aesthetics、MANIQA、MUSIQ、CAV-MAE Sync等。 📌 核心摘要 本文针对现有音视频（AV）生成模型中存在的运动不真实、声音与运动事件不同步、声音强度与运动强度不匹配等问题，提出了Tora3框架。其核心创新在于将物体轨迹视为连接视觉与听觉模态的共享运动学先验，而非仅用于控制视频。为实现这一目标，Tora3包含三个关键技术组件：1）轨迹对齐的运动表示，通过在视频潜在空间中直接沿轨迹传播首帧特征来注入运动线索，避免了额外运动编码器的引入；2）运动学-音频对齐模块，从轨迹中推导出位置、速度、加速度等二阶运动学状态，并通过交叉注意力注入音频扩散模型，为声音生成提供精确的事件时序和强度提示；3）混合流匹配机制，对轨迹区域和非轨迹区域采用不同的概率流，以在保持轨迹保真度的同时维持局部外观一致性。此外，论文构建了一个大规模、以运动为中心的PAV数据集（46万片段）。实验表明，Tora3在视频质量（FVD 784.1）、轨迹跟随精度（TE 12.13）、音视频同步（FGAS 0.234）以及运动-声音相关性（MAIC 0.63）上均优于强基线模型。局限性在于其效果高度依赖于输入轨迹的质量与准确性，且对复杂物理交互（如材质、3D声学）的建模能力有限。 ...