قدّمت Google DeepMind نموذج EmbeddingGemma 2، وهو نموذج مفتوح وخفيف يحوّل النص والصور والصوت والفيديو بشكل أصيل إلى فضاء تضمين موحّد. ويأتي بعد النموذج الأصلي EmbeddingGemma الذي تجاوز 20 مليون عملية تنزيل، إذ استخدمه المطوّرون في البحث على الجهاز وفي خطوط معالجة توليد معزَّز بالاسترجاع (RAG) التي تُعطي الأولوية للخصوصية.
يعتمد EmbeddingGemma 2 على بنية Gemma 4، ويُصدر بموجب ترخيص Apache 2.0 المسموح تجارياً، ويضم 740 مليون معامل، ما يجعله مناسباً للاستدلال على الجهاز. ويمكنه تحديد مقطع فيديو معين انطلاقاً من مذكرة صوتية، أو البحث في ساعات من التسجيلات الصوتية باستخدام استعلام نصي، وكل ذلك عبر نموذج واحد. وتقول الشركة إنه يحقق نتائج رائدة بين أدوات التضمين متعددة الوسائط التي تقل معاملاتها عن مليار معامل في اختبارات MTEB Code وMAEB.
النموذج معياري التصميم، إذ يحتاج إلى 270 مليون معامل فقط لأعباء العمل النصية، مع إمكانية إضافة مشفّرات اختيارية للرؤية والصوت. وباستخدام تعلّم تمثيل Matryoshka، يستطيع المطوّرون اقتطاع متجهات المخرجات من 768 بُعداً إلى 128 بُعداً، ما يقلّل احتياجات التخزين بما يصل إلى ستة أضعاف. ومع التكميم، يحتاج النموذج إلى نحو 191 ميغابايت من ذاكرة الوصول العشوائي النشطة لأوزان النص فقط على هاتف Google Pixel 11 Pro، ونحو 567 ميغابايت للنموذج متعدد الوسائط الكامل.
كما يوفّر EmbeddingGemma 2 نافذة سياق تبلغ 8 آلاف رمز، أي أربعة أضعاف نافذة سلفه، ويُظهر تحسناً بمقدار 9.92 نقطة في اختبارات الشيفرة البرمجية. ولأنه يشارك Gemma 4 المجزِّئ اللغوي ومشفّر الصوت نفسيهما، يستطيع المطوّرون تشغيل النموذجين معاً في خط معالجة موحّد بمتطلبات ذاكرة مجمّعة أقل.
المصدر: Google DeepMind Blog · لخّصه HeadlinesBriefing