多模态检索

📄 jina-embeddings-v5-omni: Text-Geometry-Preserving Multimodal Embeddings via Frozen-Tower Composition #多模态检索 #迁移学习 #多模态模型 #模型评估 ✅ 7.5/10 | 前25% | #多模态检索 | #迁移学习 | #多模态模型 #模型评估 | arxiv 学术质量 7.5/8 | 影响力 1.8/2 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者：Florian Hönicke（Jina by Elastic） 通讯作者：未说明 作者列表：Florian Hönicke、Michael Günther、Andreas Koukounas、Kalim Akram、Scott Martens、Saba Sturua、Han Xiao（均隶属于 Jina by Elastic） 💡 毒舌点评 论文提出了一种名为“冻结编码器模型组合”的务实框架，通过仅训练连接层来将多个冻结的预训练编码器（视觉、音频）对接到冻结的文本嵌入主干上。这种方法在保持文本嵌入性能无损（“文本几何保持”）的同时，以极高的参数和计算效率扩展了模型的多模态能力，展现了强大的工程实用价值。然而，其“全能”宣称在视频模态上遭遇滑铁卢——性能显著落后于专精模型及更大的全模态基线，且论文未能提供充分的技术分析来解释这一短板，这与其在其他模态上的优异表现形成鲜明对比，成为一项明显的局限。 📌 核心摘要 解决的问题：如何在几乎不修改、不损失现有高性能文本嵌入模型（Jina Embeddings v5 Text）的前提下，高效地将其扩展到支持图像、音频和视频等多模态输入，构建一个统一的跨模态嵌入空间，同时保持纯文本处理路径和输出完全不变。 方法核心：提出“冻结编码器模型组合”方法。核心是保持预训练的非文本编码器（Qwen3.5视觉编码器、Qwen2.5-Omni音频编码器）和文本嵌入主干（Jina Embeddings v5 Text）完全冻结，仅训练连接两者的轻量级投影层（fc_vision_2， fc_audio）和模态分隔符（如``等）的嵌入。训练参数仅占总参数的0.35%。 新颖之处：与现有需要微调语言模型或进行大规模联合训练的方法（如E5-V, Qwen3-VL-Embedding）不同，该方法首次在VLM风格架构中实现了完全冻结文本嵌入主干，从而确保对文本输入产生与原始文本模型完全一致的嵌入，实现了真正的“文本几何保持”。这是一种高效率、模块化、低风险的多模态扩展范式。 主要实验结果：在MIEB（图像）、MMEB-Video（视频）、MAEB（音频）、MMTEB（文本）等基准上，jina-embeddings-v5-omni-small（1.57B参数）的四模态平均分（53.93）略高于LCO-Embedding-Omni-3B（53.83），并远高于参数更多的LanguageBind（36.27）和Omni-Embed-Nemotron-3B（41.21）。其在文档检索（ViDoRe）上得分79.08，以仅0.92B活动参数表现强劲。但视频检索性能（27.82）明显落后于基线（如Qwen3-VL-Embedding-8B的58.73）。 实际意义：为现有的文本嵌入系统提供了一种低成本、低风险的工业级多模态升级路径，特别适合需要维护稳定文本向量索引（如RAG、企业搜索）的应用场景。开源的模型套件（Nano/Small，8个任务变体）推动了多模态嵌入生态的发展。 主要局限性：视频模态的性能（尤其是通用视频检索）显著落后于基线，论文承认这是未来工作重点；当前方法未探索联合训练多个投影器或更深入的模态融合；非文本编码器的选择探索不足。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：https://huggingface.co/collections/jinaai/jina-embeddings-v5-omni-67913f62f6539f77a8f022c5 数据集：论文中提及训练使用了混合数据集（图3），但未提供具体数据集名称、获取链接或开源协议。 Demo：论文中未提及。 复现材料： 论文描述了详细的训练配置：使用AdamW优化器，学习率2e-4，500步线性预热，全局梯度裁剪，bf16混合精度，4个NVIDIA H100 GPU上全局批大小为256，训练15,000步。对于消融实验，使用了更小的配置（5000步，批大小128）。 论文提到��发布8个任务特定变体，但未给出具体的检查点发布链接。 论文中引用的开源项目： Sentence-BERT: https://github.com/UKPLab/sentence-transformers E5-Mistral: https://huggingface.co/intfloat/e5-mistral-7b-instruct CLIP: https://github.com/openai/CLIP SigLIP / SigLIP2: https://github.com/google-research/big_vision ImageBind: https://github.com/facebookresearch/ImageBind LLaVA: https://github.com/haotian-liu/LLaVA BLIP-2: https://github.com/salesforce/LAVIS Qwen3.5 / Qwen3.65 视觉编码器: https://github.com/QwenLM/Qwen2.5-VL (论文基于其架构) Qwen2.5-Omni 音频编码器: https://github.com/QwenLM/Qwen2.5-Omni (论文基于其架构) Whisper: https://github.com/openai/whisper Matryoshka Representation Learning: https://github.com/Prithivida/MatryoshkaCL (论文引用了原始论文) Jina CLIP v1/v2: 具体模型权重见Jina AI官方。 其他被引用但未明确开源或未提供直接代码链接的项目（如LiT, Nomic Embed Vision, GTE-Qwen2, NV-Embed, EVA-CLIP等），在此不列出详细链接。 🏗️ 方法概述和架构 整体流程概述：本系统是一个模块化的多模态嵌入生成框架。对于任意输入（文本、图像、音频、视频），系统首先调用相应的冻结编码器（或直接处理文本token），然后通过可训练的投影层将非文本特征映射到文本嵌入模型的输入空间，最后将所有模态的特征序列化后输入冻结的文本Transformer，通过最后token池化和L2归一化得到统一的嵌入向量。核心原则是冻结所有预训练的编码器和文本模型，仅训练适配层。 ...