Vagdhenu: A Vrutta (Meter) Aware Shloka-to-Chant (TTS) System for Sanskrit
📄 梵颂为何难唱:当吟诵的旋律不在文本里 英文题目:Vagdhenu: A Vrutta (Meter) Aware Shloka-to-Chant (TTS) System for Sanskrit 一句话:为把梵语诗节准确唱出来,Vāgdhenu 放弃在文本侧学习韵律,转而用韵律精确匹配的参考音频去“填充”流匹配模型,并在约 5 小时单人数据上首次完整唱对卷舌送气等密集辅音丛,代价是韵律只能靠参考模板克隆而无法自由设计。 标签:#语音合成 #流匹配 #低资源 #多语言 评分:7.9/10 | 创新 1.3/2 | 技术严谨 1.1/1.5 | 实验充分 0.7/1.5 | 清晰度 0.8/1 | 影响力 0.8/1.5 | 开源 1.5/1.5 | 可复现 0.4/0.5 | 工程/实践 1.3/1.5 👥 作者与机构 Prathosh A P:机构信息未在 arXiv HTML 中可靠披露 💬 毒舌点评 把梵颂吟诵这个低资源高规约任务做成可交付流水线并用 Kannada 路由、韵律感知参考检索和半参考规则解决真实卡点,负结果剖析比多数正结果更有价值;短板是评估仅为单人专家非盲测且 MOS 跨代不可比,所谓韵律感知本质是参考检索而非可控生成,声学骨干与声码器均为现成组件复用,架构创新有限。 📌 核心摘要 本文解决梵语韵律诗节(śloka)到吟诵(parāyaṇa chant)的高保真语音合成问题,目标是保持长元音、尾随 visarga、卷舌与送气对立及密集辅音丛的正确发音并尊重诗律(vṛtta)结构。系统 Vāgdhenu 以现成流匹配(Flow Matching)语音合成骨干(Chen et al. 2024; AI4Bharat 2024,约 337M 参数的扩散变换器 DiT)与大规模对抗声码器 BigVGAN-v2(Lee et al. 2023)为基础,构建脚本感知前端、韵律感知的参考选择机制与面向源文本校验的质量控制栈。核心机制差异在于放弃文本侧韵律条件,转为通过精确匹配参考音频的韵律模板进行上下文填充式克隆,并通过 Kannada 文字路由规避 Devanagari 在指示模型中的固有元音删除问题。最能支撑结论的证据是同一单说话人数据上四代架构的演进中,流匹配骨干以约 5 小时微调在专家平均意见分(Mean Opinion Score, MOS)上达到约 4.6 分并首次完整渲染含卷舌送气在内的辅音丛,而此前三代 StyleTTS2(约 3.0 至 4.2)、VITS2、Matcha-TTS(约 4.2 至 4.3)均触及天花板。该系统已落地两个大规模部署(Mahābhārata Tātparya Nirṇaya 5183 诗节约 17.5 小时视频语料;Śrīmad Bhāgavatam 约 18000 诗节音频应用)并开源前端、推理与训练代码、模型权重与吟诵数据集。局限在于缺乏多听者盲测与置信区间,韵律可设计性在当前自填充骨干上被证明不可达,且评估依赖非可比的专家估计。 ...