HeadlinesBriefing HeadlinesBriefing.com

openTPU ओपन-सोर्स AI FPGA Qwen3

Hacker News •
×

AI द्वारा विकसित एक ओपन-सोर्स AI एक्सेलेरेटर। open TPU auto-arch-tournament के सबक को AI एक्सेलेरेटर में लाता है। यह दो प्रश्न पूछता है: AI एजेंट हार्डवेयर डिज़ाइन में कितनी दूर जा सकते हैं, और क्या वे चिप बना सकते हैं जो उनका अपना अनुमान चलाती है?

open TPU एक सीखने की परियोजना भी है। पूरा एक्सेलेरेटर एक छोटे monorepo में रहता है जिसे आप शुरू से अंत तक पढ़ सकते हैं: हार्डवेयर डिज़ाइन (System Verilog), निर्देश सेट, एक bit-exact सिम्युलेटर, एक कर्नेल भाषा और उसका कंपाइलर, और होस्ट सॉफ़्टवेयर जो वास्तविक PCIe कार्ड चलाता है।

डिज़ाइन Inspur YPCB-00338 कार्ड (Xilinx Kintex-7 xc7k480t, दो DDR3 चैनल) पर दस आधुनिक मॉडलों को उनके वास्तविक वज़न के साथ चलाता है, और कार्ड सिम्युलेटर के समान टोकन उत्पन्न करता है, बिट-दर-बिट। कार्ड पर मापा गया: पहले तीन मॉडल 2026-09-29 को प्रोडक्शन इमेज deploy_champ_e698dcd7 के साथ। Build B LFM2-2.6B, Smol LM3 और Phi-4-mini को e698dcd7 से 8-9% तेज़ी से डिकोड करता है, DRAM पीक के 91-94% पर।

स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित