GitHub रिपॉजिटरी fugue-labs/monty-go, Pydantic के Monty Python इंटरप्रेटर के लिए एक शुद्ध Go रैपर प्रदान करता है, जिसे WebAssembly में संकलित किया गया है और wazero के माध्यम से लोड किया गया है। यह कंटेनर, CGO, या सबप्रोसेस के बिना Go से LLM-जनित Python कोड को सुरक्षित रूप से चलाने में सक्षम बनाता है। 2.9MB की WASM बाइनरी सीधे Go बाइनरी में एम्बेड होती है जिसमें सब-मिलीसेकंड स्टार्टअप होता है।
कई मॉडल इंटरैक्शन की आवश्यकता वाले अनुक्रमिक टूल कॉल के बजाय, LLM सीधे Go फ़ंक्शन को कॉल करने वाला Python कोड लिखते हैं। Monty प्रत्येक बाहरी फ़ंक्शन कॉल पर निष्पादन को रोक देता है, जिससे Go कोड को इसे संभालने की अनुमति मिलती है और फिर फिर से शुरू होता है। यह तीन मॉडल कॉल को एक तक कम कर देता है, जिससे LLM एजेंट तेज़, सस्ते और अधिक विश्वसनीय बनते हैं।
लाइब्रेरी संसाधन सीमाओं का समर्थन करती है जिसमें मेमोरी (डिफ़ॉल्ट 10MB), समय (5 सेकंड), आवंटन (100,000), और रिकर्सन गहराई (100) शामिल हैं। रद्दीकरण के लिए Go के context.Context डेडलाइन का सम्मान किया जाता है। विशेषताओं में Python print() आउटपुट कैप्चर करना, Go कॉलबैक के माध्यम से OS फाइल सिस्टम और एनवायरनमेंट कॉल को संभालना, और नाम-आधारित डिस्पैच के साथ कई बाहरी फ़ंक्शन पंजीकृत करना शामिल है।
क्विक स्टार्ट "x * 2 + y" को निष्पादित करने का प्रदर्शन करता है जिसमें वेरिएबल x=10, y=5 हैं जो 25 लौटाता है। get_weather, search, calculate, और store जैसे बाहरी फ़ंक्शन Go कार्यान्वयन के साथ सहजता से एकीकृत होते हैं।
मुख्य संस्थाएं: कंपनियां: GitHub, Pydantic, Anthropic, Cloudflare, Hugging Face
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित