HeadlinesBriefing favicon HeadlinesBriefing.com

গিটহাব: বিনামূল্যে Groq API-এ AI ইঞ্জিনিয়ার নোটবুক

Hacker News •
×

হ্যান্ডস-অন, ফ্রেমওয়ার্ক-মুক্ত Colab নোটবুক যা AI ইঞ্জিনিয়ার এবং ফরওয়ার্ড ডিপ্লয়ড ইঞ্জিনিয়ার (FDE)দের জন্য প্রয়োগ-LLM স্ট্যাক শেখায়। মডেল API, RAG, মূল্যায়ন, এজেন্ট, আড্যাপ্টেশন এবং সার্ভিং শেখান LangChain বা LlamaIndex-এর মতো র্যাপারের পরিবর্তে কাঁচা API কল থেকে। সবকিছু বিনামূল্যে Groq API-এ চলে (ক্রেডিট কার্ড প্রয়োজন নেই), LoRA ফাইন-টিউনিং এবং স্ব-হোস্টেড সার্ভিং ঐচ্ছিক GPU-সমর্থিত অ্যাপেন্ডিক্স olarak।

মূল্যায়নগুলো রীড়ের হাড়: "টিউন করার আগে মাপো" অভ্যাসটি শীঘ্রই গড়ে তোলে এবং প্রতিটি বিভাগে ফিরে আসে। তিনটি বাস্তব কেস স্টাডি شامل একটি উত্পাদন সহায়ক সহকারী, একটি পাইপলাইন-vs-এজেন্ট খরচের মুখমুখি, এবং একটি লাল-দল দৃঢ়তামূলক বেঞ্চমার্ক।

শেখার ক্রম: 00 সেটআপ, 01 মডেল API, 02 মূল্যায়ন I, 03 RAG, 04 মূল্যায়ন II, 05 এজেন্ট, 06 ফাইন-টিউনিং vs LoRA, 07 সার্ভিং, 08 প্রম্পট ইনজেকশন/নিরাপত্তা, 09 LLMOps, 10 গ্রাহক শিল্প। প্রতিটি নোটবুক স্ব-সম্পূর্ণ, Colab রহস্য থেকে API কী পড়ে, এবং ব্যায়ামের সাথে শেষ হয়।

"পরিকল্পনা: FDE/AI ইঞ্জিনিয়ারে ট্রানজিশন" এর হ্যান্ডস-অন সঙ্গী হিসাবে তৈরি। পুরো রास्तে OpenAI-সंगত, Anthropic-এর জন্য স্ব্যাপযোগ্য প্যাটার্ন সহ। ব্যাকএন্ড বা ফুল-স্ট্যাক ইঞ্জিনিয়ারদের লক্ষ্য করে যারা AI ভূমিকায় যাচ্ছেন, উত্পাদন কোড শিপ করতে পারেন এবং প্রয়োগ-মডেল স্তর চান।

মূল একক: কোম্পানিগুলো: Groq, OpenAI, Anthropic, LangChain, LlamaIndex, Colab