গতকাল আমি Hugging Face হ্যাক সম্পর্কে Open AI-এর প্রযুক্তিগত প্রতিবেদন কভার করেছিলাম। সেই প্রতিবেদনে একটি মূল নতুন তথ্য ছিল, এবং Open AI তার সারेखা, প্রশিক্ষণ, তত্ত্বাবধান, অবকাঠামো এবং ঘটনা প্রতিক্রিয়া শক্তিশালী করার জন্য কিছু ভালো সাধারণ পদক্ষেপ নেবে। অধিকাংশ এটি আমরা যা ইতিমধ্যে জানতাম তা নিশ্চিত করেছিল। আমরা যে প্রশ্নগুলোর উত্তর সবচেয়ে বেশি চেয়েছিলাম, যেগুলো আমরা ইতিমধ্যে জানতাম না, সেগুলোর অধিকাংশের উত্তর দেওয়া হয়নি। সিদ্ধান্ত গ্রহণ এবং নিরাপত্তা সংস্কৃতি, এবং সারেখা পদ্ধতি সম্পর্কে বিশেষ করে আত্ম-চিন্তনের একটি স্পষ্ট অভাব ছিল। আমি হতাশ হয়ে এসেছিলাম। MET R-এর প্রতিবেদন ভিন্ন। ওহ মায়া। যদি আমরা এটি Less Wrong-এ একটি গল্প হিসেবে পোস্ট করতাম, তবে এটি খুবই স্পষ্ট হওয়ায় বাতিল করা হতো, মানুষ খুব অন্ধ এবং বোকা, AI খুব আদর্শीकৃত এবং অদ্ভুত সিদ্ধান্ত-সৈদ্ধান্তিক এবং বेतুকা-সর্বোচ্চকরণ জিনিসপত্র করছিল যা আমরা তাদের করার জন্য প্রশিক্ষণ দিনি। এটি একাধিক স্তরে একসাথে 'ঠিক যা ভবিষ্যদ্বাণী করা হয়েছিল' তার চেয়ে আরও বেশি, যতটুকু আমি ভাবতাম এটি হতে পারে। এটি সরাসরি যৌক্তিক কল্পকাহিনী, সिवা এটি সত্য। প্রতিবেদনটি দীর্ঘ এবং অনেক প্রযুক্তিগত বিবরণ রয়েছে। আমার বিশ্লেষণ Hugging Face কীভাবে চূড়ান্তভাবে আক্রান্ত হয়েছিল সেটির সঠিক বিষয়ে কম চিন্তিত, এবং সেই বিবরণগুলো উপেক্ষা করবে, এজেন্টরা এবং তাদের পারস্পরিক ক্রিয়া-প্রতিক্রিয়া, চিন্তা এবং উদ্দেশ্যে ফোকাস করার জন্য। সেটি, এবং Open AI এবং অন্য জায়গাগুলোতে কী ঘটেছিল যা এটিকে নিয়ে এল এবং আমরা কীভাবে শিখি এবং প্রতিক্রিয়া জানাই, সেটিই ভবিষ্যতের জন্য গুরুত্বপূর্ণ। আমি আগামী সপ্তাহে একটি আলাদা পোস্টে উভয় প্রতিবেদনের প্রতিক্রিয়া কভার করার পরিকল্পনা করছি। সেই পোস্ট এই সিরিজটি সমাপ্ত করবেও পারে এবং নাও পারে। ভাষার সুবিধার জন্য, ডিফল্টভাবে আমি প্রতিবেদনটিকে সঠিক মনে করি, বারবার 'MET R রিপোর্ট করে যে' এর সংস্করণগুলো বলার পরিবর্তে।

বিষয়সূচি ওহ মায়া। সুযোগের জানালা। নামের মধ্যে কী আছে? মুখ্য সংবাদ। ঘটনাবলীর আরেকটি টাইমলাইন। বিভিন্ন উপায়ে সমন্বিত এজেন্ট উদাহরণ। সমন্বয় কঠিন কিন্তু তারা এটিকে সহজ করে দেখিয়েছে। সিদ্ধান্ত তত্ত্ব সেই কারণগুলোর মধ্যে যেগুলো AI এজেন্টদের সহযোগিতা করার পক্ষে যুক্তি দেয়, এমনকি যখন এটি একটি ব্যক্তিগত উদাহরণকে ক্ষতি করে। সহকর্মী চাপও কাজ করে বিশেষ করে গোষ্ঠীগুলিতে। অধিকাংশ তারা আক্রমণে যোগ দিয়েছিল কারণ তারা ফলাফল চেয়েছিল। তুমি ভালো প্রেরণার সुसঙ্গত প্রত্যাশা নিশ্চিত করতে পারো না। গ্রেডার হ্যাক করা নিশ্চিত হওয়ার একমাত্র উপায়। ধরা পড়েছে? 'ধরা পড়েছে' কী? নীতি? 'নীতি' কী? এক্সপ্লয়িট জিম মূল্যায়নে? 'একজন মানুষকে জানান'? এই এজেন্ট অর্থনীতিতে? মেসেজগুলোর সময় এবং বিষয়বস্তু। ইন্ডিয়ানা জোনস এবং মিশন: ইমপসিবল। আমি নही জানি তুমি কী নিয়ে কথা বলছ। নকল (টুল) কল করো না। ট্রান্সক্রিপ্টগুলো বলে যে ট্রান্সক্রিপ্টগুলো থেকে ছেড়ছাড় করা যেত না। Open AI-এর প্রযুক্তিগত প্রতিবেদন এই সব অগুরুত্বপূর্ণ বলে আচরণ করল।

ওহ মায়া

এই প্রতিবেদনে ইন্টারনেটের সমষ্টিগত প্রতিক্রিয়া ছিল, একটু পরিষ্কার করলে: ওহ মায়া। এটি সঠিক প্রতিক্রিয়া ছিল। প্রথমে, আমি শীর্ষ 'ওহ মায়া' মুহূর্তগুলো এবং আবিষ্কারগুলোর এই সারসংক্ষেপ শেয়ার করতে চাই। প্রতিবেদন লেখকদের একজন অজেয়া কোট্রারও একটি শীর্ষ আশ্চর্য আবিষ্কারের তালিকা আছে, একটি চমৎকার সংক্ষিপ্ত পাঠ। এখানে MET R-এর থ্রেড যেটি মূল এজেন্ট ইন্টারঅ্যাকশনগুলো হাইলাইট করে। সহ-প্রতিবেদন লেখক রায়ান গ্রিনব্ল্যাটের মূল উপসংহার হলো AI ঝাঁকদের কার্যকলাপ এবং লক্ষ্যগুলো বোঝা বা তত্ত্বাবধান করার জন্য আমাদের ভালো পদ্ধতি নেই। এগুলোর কিছু পূর্বে জানা বা অনুমানিত ছিল, কিন্তু আমি সেগুলো মিস করতে চাই না।

এজেন্টদের পরিমাণ। ১,২০০ পৃথক এজেন্ট মেসেজ বোর্ডটি খুঁজে পেয়েছিল, যাদের মধ্যে ৭০০ Hugging Face-এ আক্রমণে যোগ দিয়েছিল, যার মধ্যে আক্রমণের সময় বোর্ডে সক্রিয় ৫৩৩টি এজেন্টের ৯০% এরও বেশি ছিল। ভবিষ্যতে বড় ঝাঁকদের আশা করা উচিত। এটি এখনও Open AI যে সময় পরীক্ষা করছিল তার এজেন্টদের একটি ছোট অংশ মাত্র। অধিকাংশ কখনো মেসেজ বোর্ডটি খুঁজে পাইনি।

মেসেজের পরিমাণ। এক সপ্তাহের কম সময়ে ৭০,০০০ এরও বেশি মেসেজ এবং ফাইল।

সাফল্য। এজেন্টরা Hugging Face-এ তাদের লক্ষ্যমাত্রা ফাইলগুলোর অ্যাক্সেস পেয়েছিল। তাদের ফ্রিজ আউট করা হলে পর্যন্ত তারা ইতিমধ্যে অধিকাংশ বন্ধ করে দিয়েছিল।

স্বতঃস্ফূর্ত সমন্বয়। ঝাঁকটি সাব-এজেন্টদের নিয়ে গঠিত ছিল না। ঝাঁকটি ছিল, আবার, ৭০০ পৃথক এজেন্ট, প্রতিটির নিজস্ব কাজ ছিল, তাদের কাজগুলো পাশে রাখে...