Type Safe-এর Jev বড় ভাষা মডেলের একটি নতুন ধারা চালু করেছে যা AI জগৎকে ঝড়ের মতো কাঁপিয়ে দিয়েছে। Vercel-এর মতে, "AI Gateway-এর ইতিহাসে অন্য যেকোনো মডেলের চেয়ে দ্রুত Jev গৃহীত হয়েছে।" কিন্তু মেঘ জমছে। OpenAI নিঃসন্দেহে মনোযোগ দিচ্ছে – এবং পরবর্তী কী করবে তা সিদ্ধান্ত নিচ্ছে। আমি Type Safe-এর জন্য সর্বোত্তম কামনা করি, কিন্তু যদি তারা সত্যিই তাদের প্রতিশ্রুতি রক্ষা করে, তবে আমি উদ্বিগ্ন যে OpenAI দ্রুত অনুসরণ করার জন্য ভালো অবস্থানে রয়েছে – শুধু Jev-এর প্রধান পণ্য অনুকরণ করাই নয়, বরং সেই ক্ষমতাকে আসন্ন মডেল ও এজেন্টে অন্তর্ভুক্ত করা এবং সত্যিই উপযোগী নতুন আচরণ প্রদান করা যা Jev পুনরুত্পাদন করার অবস্থানে নেই।

OpenAI বছরের পর বছর ধরে তাদের LLM-কে অন্তর্নিহিত শ্রেণীবিভাজক হিসেবে ব্যবহার করেছে; তারা কেবল সাধারণ শ্রেণীবিভাগের কাজের জন্য সেগুলোকে প্রশিক্ষণ দেয়নি এবং সাধারণ শ্রেণীবিভাগকে একটি স্বতন্ত্র পণ্য হিসেবে প্যাকেজ করেনি। যদি OpenAI প্রশিক্ষণ পুনরুত্পাদন করতে পারে, তবে তারা অল্প সময়ের মধ্যে Jev পুনরুত্পাদন করতে সক্ষম হবে। তাছাড়া, OpenAI তাদের বিদ্যমান মডেল ও এজেন্টের ভিতরে এই নতুন শ্রেণীবিভাজক ব্যবহার করার অবস্থানে রয়েছে যা দ্রুত মডেল নির্বাচন, আরও দক্ষ চিন্তা, উন্নত নিরাপত্তা গার্ডরেল এবং সাধারণভাবে আরও স্মার্ট, দ্রুত ও সস্তা মডেলের জন্য উপযোগী হতে পারে।

এটি সব নির্ধারণকারী মূল বিষয় হলো Type Safe-এর একটি পরিখা আছে কি না। আমি যে সবচেয়ে বড় পরিখা দেখি তা Type Safe-এর প্রশিক্ষণ ডেটা ও প্রশিক্ষণ প্রক্রিয়ায়। আমার প্রধান অনুমান হলো Jev প্রচলিত বড় ভাষা মডেলের bastante কাছাকাছি কিছু ব্যবহার করছে। প্রমাণ হিসেবে, Latent Space রিপোর্ট করে যে অনেক প্রাথমিক ক্লোন প্রকৃতপক্ষে LLM-ভিত্তিক। একটি অবস্থা এবং প্রশ্নের একটি সেট দেওয়া হলে, Jev-এর LLM একটি একক টোকেন তৈরি করে বা আরও সঠিকভাবে, সমস্ত সম্ভাব্য পরবর্তী টোকেনের উপর সম্ভাব্যতা বিতরণ তৈরি করে। সেই এক ধাপে প্রতিটি সম্ভাব্য টোকেনের সাথে যুক্ত logprobs তারপর Jev-এর প্রয়োজনীয় ফরম্যাটে রূপান্তরিত হয়। একটি noul প্রশ্নের জন্য, Jev শুধু দুটি টোকেন দেখে, true এবং false, বাকি সব উপেক্ষা করে এবং তাদের সম্ভাব্যতাকে উত্তরের true হওয়ার একটি একক সম্ভাব্যতায় স্বাভাবিক করে। একটি পছন্দ প্রশ্নের জন্য, Jev-কে সম্ভাবনার একটি তালিকা দিয়ে প্রম্পট করা যায় এবং এটি সম্পূর্ণ বিতরণ তৈরি করতে সেই টোকেনগুলোর আপেক্ষিক সম্ভাব্যতা দেখে, সর্বোচ্চটিকে বিজয়ী হিসেবে নির্বাচন করে। পছন্দ প্যাটার্নটি প্রায় 2025 সালে Supercharging LLM Classifications with Logprobs-এ আমি যা ব্লগ করেছিলাম তার মতোই, এবং ফাইন-টিউনিং ছাড়াই এটি ইতিমধ্যে প্রতিশ্রুতি দেখাচ্ছিল। আমি score প্রিমিটিভ সম্পর্কে গভীরভাবে ভাবিনি, তবে আমি সন্দেহ করি এটি একই প্যাটার্নের একটি রূপ। এই পোস্টের একটি প্রাঙ্গণ হলো OpenAI এই ধারণাটি দ্রুত কাজে লাগাতে প্রস্তুত হতে পারে, এবং এটি আরও স্পষ্ট হয় যদি আপনি বুঝতে পারেন কীভাবে। OpenAI অন্তত টুল কলিং প্রবর্তনের পর থেকে বড় ভাষা মডেলকে অন্তর্নিহিতভাবে বিশেষায়িত শ্রেণীবিভাজক হিসেবে ব্যবহার করে আসছে। 2024 সালের গোড়ার দিকে আমি Tool Invocation – Demonstrating the Marvel of GPT's Flexibility লিখেছিলাম, যেখানে আমি একটি GPT মডেলকে প্ররোচিত করেছিলাম যে এটি কীভাবে একটি টুল কল করার সিদ্ধান্ত নেয় তা প্রকাশ করতে। নিম্নলিখিতটি দেখায় একটি চ্যাট সেশন অভ্যন্তরীণভাবে কেমন দেখায়। এখানে একটি ব্যবহারকারীর বার্তা, তারপর টুল কল ছাড়া একটি সহকারীর প্রতিক্রিয়া তারপর টুল কল সহ একটি ব্যবহারকারীর বার্তা: আমি টোকেন সীমানা নির্দেশ করতে পাঠ্যটি রঙ-কোড করেছি। আপনি যদি আগে Chat ML না দেখে থাকেন, এটি OpenAI-এর প্রবর্তিত অভ্যন্তরীণ মার্কআপ ভাষা যা ব্যবহারকারী-এজেন্ট কথোপকথনের প্রম্পট সংগঠিত করতে ব্যবহৃত হয়। এবং হলো সংরক্ষিত টোকেন যা বার্তাগুলোকে সীমাবদ্ধ করে, এবং এর পরে প্রথম টোকেন বক্তাকে চিহ্নিত করে, হয় ব্যবহারকারী বা সহকারী। assistant-এর ঠিক পরে, ve...