GitHub রিপোজিটরি fugue-labs/monty-go Pydantic-এর Monty Python ইন্টারপ্রেটারের জন্য একটি শুদ্ধ Go র্যাপার প্রদান করে, WebAssembly-এ কম্পাইল করা এবং wazero-এর মাধ্যমে লোড করা। এটি কন্টেইনার, CGO, বা সাবপ্রসেস ছাড়া Go থেকে LLM-উত্পন্ন Python কোড নিরাপদে চালাতে সক্ষম করে। 2.9MB WASM বাইনারি সরাসরি Go বাইনারিতে এম্বেড করা হয় সাব-মিলিসেকেন্ড স্টার্টআপের সাথে।
একাধিক মডেল ইন্টারঅ্যাকশন প্রয়োজনীয় ক্রমিক টুল কলের পরিবর্তে, LLM-রা সরাসরি Go ফাংশন কল করার Python কোড লিখে। Monty প্রতিটি এক্সটার্নাল ফাংশন কল-এ এক্সিকিউশন পজ করে, Go কোডকে এটি হ্যান্ডল করার অনুমতি দেয় এবং তারপর রিজিউম করে। এটি তিনটি মডেল কলকে একটি-এ কমিয়ে দেয়, LLM এজেন্টদের দ্রুত, সস্তা, এবং আরও নির্ভরযোগ্য করে তোলে।
লাইব্রেরি রিসোর্স লিমিট সমর্থন করে যার মধ্যে মেমরি (ডিফল্ট 10MB), সময় (5 সেকেন্ড), অ্যালোকেশন (100,000), এবং রিকার্শন ডেপথ (100)। ক্যান্সেলেশনের জন্য Go-এর context.Context ডেডলাইন মেনে চলে। বৈশিষ্ট্যগুলো شامل Python print() আউটপুট ক্যাপচার করা, Go কলব্যাকের মাধ্যমে OS ফাইল সিস্টেম এবং এনভায়রনমেন্ট কল হ্যান্ডল করা, এবং নাম-ভিত্তিক ডিসপ্যাচের সাথে একাধিক এক্সটার্নাল ফাংশন রেজিস্টার করা।
কুইক স্টার্ট "x * 2 + y" এক্সিকিউট করার প্রদর্শন করে ভেরিয়েবল x=10, y=5 সহ যা 25 রিটার্ন করে। get_weather, search, calculate, এবং store এর মতো এক্সটার্নাল ফাংশন Go ইমপ্লিমেন্টেশনের সাথে স্মূথলি ইন্টিগ্রেট হয়।
মূল এন্টিটি: কোম্পানি: GitHub, Pydantic, Anthropic, Cloudflare, Hugging Face
উৎস: Hacker News · সারাংশ: HeadlinesBriefing