O Google DeepMind apresentou o EmbeddingGemma 2, um modelo aberto e leve que mapeia nativamente texto, imagens, áudio e vídeo em um espaço de incorporação unificado. Ele sucede o EmbeddingGemma original, que ultrapassou 20 milhões de downloads, pois os desenvolvedores o usaram para busca no dispositivo e em pipelines de geração aumentada por recuperação (RAG) com foco em privacidade.
O EmbeddingGemma 2 é construído sobre a arquitetura Gemma 4, é lançado sob a licença Apache 2.0, que permite uso comercial, e possui 740 milhões de parâmetros, o que o torna adequado para inferência no dispositivo. Ele consegue localizar um clipe de vídeo específico a partir de uma nota de voz ou pesquisar horas de gravações de áudio usando uma consulta de texto, tudo tratado por um único modelo. A empresa afirma que ele obtém pontuações líderes entre os modelos de incorporação multimodal com menos de 1 bilhão de parâmetros nos benchmarks MTEB Code e MAEB.
O modelo é modular, exigindo apenas 270 milhões de parâmetros para cargas de trabalho somente de texto, com codificadores opcionais de visão e áudio. Usando o Matryoshka Representation Learning, os desenvolvedores podem truncar vetores de saída de 768 dimensões para 128, reduzindo as necessidades de armazenamento em até 6 vezes. Com quantização, ele requer cerca de 191 MB de RAM ativa para os pesos somente de texto em um Google Pixel 11 Pro, e cerca de 567 MB para o modelo multimodal completo.
O EmbeddingGemma 2 também oferece uma janela de contexto de 8 mil tokens, quatro vezes maior que a de seu antecessor, e apresenta ganho de 9,92 pontos em benchmarks de código. Como compartilha seu tokenizador e seu codificador de áudio com o Gemma 4, os desenvolvedores podem executar os dois modelos juntos em um pipeline unificado, com menor consumo combinado de memória.
Fonte: Google DeepMind Blog · Resumido por HeadlinesBriefing