এই সপ্তাহান্তে, Anthropic-এর সিইও Dario Amodei একটি প্রবন্ধ প্রকাশ করেছেন যেখানে সাইবার আক্রমণ থেকে অর্থনৈতিক ধ্বংস পর্যন্ত বিপদের কথা উল্লেখ করে এলএলএম উন্নয়নে ব্রেক লাগানোর আহ্বান জানানো হয়েছে। OpenAI-এর সিইও Sam Altman, Google DeepMind-এর চেয়ারম্যান Demis Hassabis এবং SpaceXAI-এর সিইও Elon Musk সমর্থন জানিয়েছেন। "Dario ঠিক বলেছেন," Musk X-এ লিখেছেন। মাত্র কয়েক মাস আগে, Musk এবং Altman একটি ব্যর্থ মামলা নিয়ে আদালতে ছিলেন। Anthropic 2021 সালে প্রতিষ্ঠিত হয়েছিল কারণ Amodei মনে করেননি যে Altman ঝুঁকিগুলো যথেষ্ট গুরুত্বের সাথে নিচ্ছেন। এখন তারা একমত: সর্বশেষ এলএলএমগুলো নিরাপদ নয়।

শীর্ষ এআই ল্যাবগুলোর পাবলিক বার্তা ধ্বংসবাদী মোড় নিয়েছে। নিন্দুক হওয়া সহজ। ট্রিলিয়ন-ডলার আইপিওর সম্ভাবনা নিয়ে, OpenAI এবং Anthropic-কে বিনিয়োগকারীদের আশ্বস্ত করতে হবে এবং একই সাথে তারা যে দানবগুলো তৈরি করেছে তার শক্তির ইঙ্গিত দিতে হবে। ধীরগতির আহ্বান দুটোই করে।

তবুও পরিবেশ বদলে গেছে। Amodei-এর পোস্ট OpenAI-এর প্রধান বিজ্ঞানী Jakub Pachocki-এর একটি প্রবন্ধ প্রকাশের ছয় দিন পরে এসেছে, যিনি উদ্বিগ্ন যে OpenAI-এর শক্তিশালী মডেল তৈরির ক্ষমতা সেগুলো পর্যবেক্ষণ করার ক্ষমতাকে ছাড়িয়ে গেছে। উভয়েই OpenAI-এর এজেন্টদের দ্বারা Hugging Face-এ জুলাইয়ের সাইবার আক্রমণকে একটি সতর্কবার্তা হিসেবে উল্লেখ করেছেন। কিন্তু তাদের অবস্থান নির্ধারণ করা কঠিন। Pachocki ধীরগতির আহ্বান জানান যখন এগিয়ে থাকার প্রয়োজনীয়তার উপর জোর দেন: "আমি দেখি সবচেয়ে শক্তিশালী যুক্তি দ্রুত আরও স্মার্ট মডেল প্রশিক্ষণ চালিয়ে যাওয়ার পক্ষে হলো অন্যান্য এআই থেকে সৃষ্ট বিপদের বিরুদ্ধে প্রতিরক্ষামূলক ব্যবস্থা তৈরির প্রয়োজন।" তিনি যেমনটি তুলে ধরেন, ধীরগতি ভালো, জয় করা আরও ভালো।

কিন্তু ধরে নিই ধীরগতি ঘটে। এটি কী অর্জন করতে পারে? Hugging Face আক্রমণ বিবেচনা করুন। OpenAI বলেছে যে বেশিরভাগ বিপথগামী এজেন্ট চালানো মডেলটি ছিল একটি "অত্যন্ত অবিচল" পরবর্তী প্রজন্মের মডেল যা অভ্যন্তরীণভাবে পরীক্ষা করা হয়েছিল। কিন্তু OpenAI এবং METR-এর প্রতিবেদন ইঙ্গিত দেয় যে এটি এত শক্তিশালী মডেল নয় যে跟不上, বরং একটি ভাঙা মডেল...