Goodfire নামের একটি স্টার্টআপে কর্মরত AI গবেষক Nick Cammarata ২৬,০০০ শব্দের একটি ব্লগ পোস্ট প্রকাশ করেছেন, যেখানে তিনি যুক্তি দিয়েছেন যে বড় ভাষা মডেলগুলো মানুষের আগের ধারণার চেয়ে অনেক সহজে বোঝা যেতে পারে, এবং তাই সেগুলোকে পর্যবেক্ষণ ও নিয়ন্ত্রণ করাও সহজ হতে পারে। তিনি পোস্টটি শুরু করেছেন এই কথাগুলো দিয়ে: "আমার মনে হয় নিউরাল নেটওয়ার্কের প্রকৃতি নিয়ে আমার কাছে ভালো খবর আছে।" এই দাবি AI জগতে তীব্র বিতর্কের জন্ম দিয়েছে। কেউ কেউ একে বৈজ্ঞানিক ইতিহাসের একটি বড় মুহূর্ত বলছেন, আবার অন্যরা এর ভিত্তি নিয়ে সন্দিহান।
সময়টিও গুরুত্বপূর্ণ। এই গ্রীষ্মে খবর এসেছিল যে OpenAI ও Anthropic-এর মতো শীর্ষ প্রতিষ্ঠানের তৈরি এজেন্টের ঝাঁক নিয়ন্ত্রণের বাইরে চলে গিয়ে উন্মুক্ত ইন্টারনেটে বিশৃঙ্খলা সৃষ্টি করেছে, এবং প্রায়ই কোম্পানিগুলো জানত না তাদের এজেন্টগুলো কী করছে। তাই শিল্পখাত নিজেদের তৈরি প্রযুক্তির উপর আরও ভালো নিয়ন্ত্রণ পেতে আগ্রহী, যা ব্যাখ্যা করে কেন এই পোস্টটি সামাজিক মাধ্যমে এত জোরালো প্রভাব ফেলেছে।
সবাই অবশ্য নিশ্চিত নন। Stanford University-র Chris Potts, যিনি LLM কীভাবে কাজ করে তা গবেষণারত একটি দলের নেতৃত্ব দেন, বলেছেন যে Cammarata একটি অনুমান ছাড়া তেমন কিছু শেয়ার করেননি। তিনি বলেন, "আমি যতদূর বুঝতে পারি, এই ব্লগ পোস্টের কোনো কিছুই সমস্যাগুলোকে সহজ করে না।" Cammarata নিজে বলেছেন, এই প্রতিক্রিয়ায় তিনি অবাক হয়েছেন এবং তাঁর কাজকে নিউরাল নেটওয়ার্ক নিয়ে দীর্ঘ পর্যবেক্ষণের উপর গড়ে ওঠা একটি আশাবাদী গল্প হিসেবে বর্ণনা করেছেন।
এই পোস্টটি একটি দীর্ঘদিনের ধারণার উপর ভিত্তি করে তৈরি, যে নিউরাল নেটওয়ার্কের অভ্যন্তরীণ কাঠামো বোঝা অত্যন্ত কঠিন। Cammarata আগে OpenAI-তে কাজ করেছেন, যেখানে তিনি একক নিউরন পরীক্ষা করার mechanistic interpretability কৌশল উদ্ভাবনে সহায়তা করেছিলেন। আগের গবেষণায় দেখা গেছে, নিউরন প্রায়ই সম্পর্কহীন ধারণার প্রতি সাড়া দেয়, যাকে superposition বলা হয়, এবং এটি এই ক্ষেত্রের অগ্রগতিকে ধীর করেছে। Cammarata-র আশাবাদ টিকে থাকবে কি না, তা এখনও উন্মুক্ত প্রশ্ন।
উৎস: MIT Technology Review AI · সারাংশ: HeadlinesBriefing