谷歌DeepMind推出了EmbeddingGemma 2，这是一款开放的轻量级模型，可将文本、图像、音频和视频原生映射到统一的嵌入空间中。此前的EmbeddingGemma下载量已超过2000万次，开发者借助它实现设备端搜索以及注重隐私的检索增强生成（RAG）流程。
EmbeddingGemma 2基于Gemma 4架构构建，采用商业友好的Apache 2.0许可证发布，参数规模为7.4亿，适合在设备端进行推理。它可以通过文本查询，从语音备忘录中找到特定视频片段，也能在数小时的音频录音中进行搜索，所有任务均由单一模型完成。该公司表示，在MTEB Code和MAEB基准测试中，它在参数量低于10亿的多模态嵌入模型中取得了领先分数。
该模型采用模块化设计，纯文本任务最低仅需2.7亿参数，并可选配视觉和音频编码器。借助套娃表示学习（Matryoshka Representation Learning），开发者可以将输出向量从768维截断至128维，存储需求最多可降低6倍。经过量化后，纯文本权重在谷歌Pixel 11 Pro上约需191MB的活动内存，完整多模态模型则约需567MB。
EmbeddingGemma 2还提供8K词元的上下文窗口，是其前代产品的四倍，并在代码基准测试中提升了9.92分。由于它与Gemma 4共享分词器和音频编码器，开发者可以在统一的流程中同时运行两个模型，从而降低合并后的内存占用。
来源: Google DeepMind Blog · 由HeadlinesBriefing整理摘要