HeadlinesBriefing favicon HeadlinesBriefing.com

3.8B LLM के लिए $998 में प्रशिक्षण: Hugo Vergnes के परिणाम

Hacker News •
×

Hugo Vergnes ने किराए पर लिए गए B200 GPU पर 65B टोकन से 3.8B पैरामीटर वाला LLM प्रशिक्षित किया, केवल $998 में 43 घंटे में 0.384 CORE स्कोर प्राप्त किया। यह प्रोजेक्ट एक कॉन्फ़िगरेशन-ड्राइवन फ्रेमवर्क called little-lm के रूप में बनाया गया है, जो साफ इंफ्रास्ट्रक्चर और सॉफ्टवेयर इंजीनियरिंग प्रैक्टिस पर जोर देता है। म