HeadlinesBriefing favicon HeadlinesBriefing.com

نماذج اللغة بالانتشار

Hacker News •
×

اليوم تسيطر عائلتان من خوارزميات الذكاء الاصطناعي التوليدية: نماذج الانتشار للبيانات المستمرة مثل الصور، ونماذج التلقائية للبيانات المنفصلة مثل النص. نماذج الانتشار تولد جميع القيم في وقت واحد، بدءًا من مسودة تقريبية وتحديث كل موضع على حدة عبر عدة مراحل. يتيح هذا النهج تنازلات بين السرعة والجودة، وتصحيح الأخطاء المدمج، وسياق ثنائي الاتجاه. نماذج التلقائية تولد قيمة واحدة في كل مرة، من اليسار إلى اليمين، وتستغرق عددًا من الخطوات يساوي عدد القيم. نماذج الانتشار للغة بدلاً من ذلك تبدأ من مسودة كاملة وتعيد كتابة السلسلة بأكملها في كل خطوة. تطبيق الانتشار على اللغة كان مشكلة مفتوحة لسنوات، لكن بحلول 2024 أصبحت نماذج الانتشار تنافسية من حيث الجودة مع نماذج التلقائية. بحلول 2026، أصبحت نماذج اللغة بالانتشار حقيقة واقعة، مع إصدارات من المختبرات الرائدة في الصناعة مثل Mercury 2 (Inception Labs)، Gemma Diffusion (Google)، وNemotron Diffusion (NVIDIA). المفهوم المركزي الذي ي underlie نماذج الانتشار هو إزالة الضوضاء: توليد الصور خطوة بخطوة، بدءًا من الضوضاء الصرفة وإزالة جزء منها في كل خطوة حتى تظهر صورة واضحة. العملية الأمامية تأخذ صورة نظيفة للتدريب وتنتج صورًا أكثر ضوضاءً تدريجيًا. العملية العكسية تتعلم عكس هذا التحويل، وتتحول من الضوضاء إلى صورة.

تعلم نماذج الانتشار لإزالة الضوضاء من خلال التدريب على أمثلة لتحويل الضوضاء تدريجيًا إلى صور. العملية الأمامية تضيف الضوضاء إلى صورة نظيفة خطوة بخطوة، بينما تتعلم العملية العكسية عكس هذا التحويل. هذا النهج ذو خطوتين يجعل نماذج الانتشار فعالة جدًا في الإنشاء.

النماذج الحديثة للغة بالانتشار تستند إلى هذه المبادئ الأساسية، ومُعدّلة للبيانات المنفصلة مثل النص.

الكيانات الرئيسية: الشركات: Inception Labs, Google, NVIDIA