टेंसॉरडाइन का नेपियर चिप AI इन्फ्रेंस तेज करने के लिए डिजाइन किया गया है। लगभग 2020 से, AI ने बड़े और बेहतर मॉडल्स को प्रशिक्षित करने पर ध्यान केंद्रित किया है। बड़ी भाषा मॉडल्स (LLMs) ने मिलियनों पैरामीटर्स से ट्रिलियनों तक फैलाव दिखाया। यह प्रभावी साबित हुआ: ओपन AI के GPT-3 का सबसे बड़ा संस्करण जो 2020 में जारी किया गया था, एक लोकप्रिय ज्ञान और तर्क मानक परीक्षण में केवल 43.9% प्रश्नों का सही उत्तर दिया। बस चार साल बाद, GPT-4o ने समान परीक्षण में 88.7% का स्कोर हासिल किया, जो वास्तव में मानव विशेषज्ञों के समान है। उन्नत AI प्रयोगशालाएं अभी भी और भी बड़े मॉडल्स को प्रशिक्षित कर रही हैं, लेकिन वह प्रशिक्षण AI चर्चा से थोड़ा पीछे हट गया है। 2026 में, इन्फ्रेंस—प्रशिक्षित मॉडल्स का उपयोग कोड, एस्सायज़ या अपने आप को एल्फ के रूप में इमेज उत्पन्न करने के लिए—सामने आ गया है।

“यह ऐसा है जैसे प्रशिक्षण कल की खबर है,” मूर इंसाइट्स एंड स्ट्रैटेजी के प्रिंसिपल डेटासेंटर एनालिस्ट मैट किमबल ने कहा। “कोई भी मुख्य सूचना अधिकार सिवाय इन्फ्रेंस के बारे में बात नहीं करना चाहता।” न्विडिया के CEO जेंसन हुआंग, कंपनी के GTC 2026 कॉन्फ्रेंस में बात करते हुए, इस बदलाव को “इन्फ्रेंस का बिंदु मोड़” के रूप में प्रशंसित किया।

इस बदलाव का कारण बहुत सरल है: LLM उपयोगी हो रहे हैं, इसलिए लोग उन्हें उपयोग कर रहे हैं। इसके अलावा, बाजार में अधिकांश मॉडल अब रीजनिंग मॉडल हैं। उपयोगकर्ता के क्वेरी के जवाब में, वे केवल एक बार इन्फ्रेंस नहीं चलाते, बल्कि कई बार चलाते हैं, चेन ऑफ थॉट के नाम से एक प्रक्रिया में अपने आप को फिर से प्रॉम्प्ट करते हैं। रीजनिंग मॉडल लंबे आउटपुट जनरेट करते हैं, और उच्च रीजनिंग प्रयास वाले मॉडल उच्च या कोई प्रयाश न करने वाले मॉडल से 20 गुना अधिक टेक्स्ट उत्पन्न कर सकते हैं।

इन्फ्रेंस मांग के विस्फोट ने टेक दिग्गंतों के बीच अप्रत्याशित गठबंधनों को जन्म दिया। ओपन AI और अमेज़ॉन ने Cerebras द्वारा डिजाइन किए गए डाइनर प्लेट के आकार के चिप्स तैनार किए, हालांकि अमेज़ॉन के अपने Trainium चिप्स भी हैं। न्विडिया ने AI इन्फ्रेंस स्टार्टअप Groq से महत्वपूर्ण टैलेंट और बौद्धिक संपदा खरीदी, जो 20 बिलियन अमेरिकी डॉलर में विवादास्पद सौदा था। और एंथ्रॉपिक ने महीने प्रति 100 मिलियन डॉलर से अधिक का भाड़ा लेने के लिए LLM प्रतिद्वंद्वी Space XAI को अपना स्पेयर कंप्यूट लीज किया।