HeadlinesBriefing favicon HeadlinesBriefing.com

Jalapeño من OpenAI: تصميم متسارع بـ LLMs

Hacker News •
×

في 25 أغسطس، كشفت Open AI بالكامل عن Jalapeño، أول شريحة معجل ذكاء اصطناعي للشركة. توفر Jalapeño ما يصل إلى 13.4 بيتافلوبس من حوسبة 4 بت وتصل إلى 232 غيغابايت من الذاكرة المتقدمة، متصلة بها بسرعة 15.4 تيرابايت في الثانية. تُظهر المعايير أن Jalapeño يمكن أن تقلل زمن الوصول من طرف إلى طرف حتى 3.6 مرة مقارنة بـ Nvidia's GB300، مع استهلاك طاقة أقل.

انتقلت الشريحة من أول مفهوم معماري إلى أول سيليكون في أقل من 20 شهرًا، مع تسعة أشهر فقط تفصل أول RTL عن التسجيل النهائي. بلغ متوسط فريق التصميم أقل من 100 شخص، حيث تولت Broadcom التصميم المادي من البوابات فصاعدًا، بينما أدارت Open AI تصميم النظام من طرف إلى طرف بما في ذلك معجل الاستدلال، وتسلسل الذاكرة، والشبكات.

يقول Richard Ho، نائب رئيس الأجهزة في Open AI، إن LLMs تمنح المهندسين قدرات خارقة، مما يتيح استكشاف مسارات التصميم بشكل أسرع. يعترف خبراء مثل David Chin من Verkor.io و Andrew Kahng من UC San Diego بالسرعة باعتبارها مثيرة للإعجاب، وإن كان يُعتبر تورط Broadcom ضروريًا. يشير Ankur Srivastava من University of Maryland إلى أن LLMs تختلف عن أدوات الأتمتة السابقة بسبب قدرتها على فهم اللغة والكود، مما يجعلها مناسبة لمهام تصميم الشرائح التي لا تزال في المجال اللغوي.