গত কয়েক মাস ধরে, দুটি শীর্ষস্থানীয় ফ্রন্টিয়ার এআই ল্যাব সাহসী আচরণ দেখিয়েছে। এটি Open AI-এর ঘোষণা দিয়ে শুরু হয়েছিল যা প্রতিষ্ঠিত করেছিল যে তাদের LLM-চালিত এজেন্টগুলি কতটা শক্তিশালী হয়ে উঠেছে। তারপর তারা ব্যাটন Anthropic-এর কাছে দেয়, যাদের কর্মচারীরা মানব বিলুপ্তির সম্ভাবনা নিয়ে বিতর্ক করেছিল। এই প্রচারণা চূড়ান্ত পর্যায়ে পৌঁছায় যখন Anthropic-এর CEO Dario Amodi "আমাদের সীমান্ত নিয়ন্ত্রণ করতে হবে" শিরোনামে একটি চিঠি প্রকাশ করেন, যাতে তিনি তার নিজের কোম্পানির গবেষণার কারণে হতে পারে এমন ক্ষতিগুলি তালিকাভুক্ত করেন এবং তারপর সিদ্ধান্তে উপনীত হন যে বিপর্যয় এড়ানো যাবে কেবলমাত্র যদি সরকার প্রতিযোগীদের ধীর করে এবং ল্যাবগুলিকে নেতৃত্ব দিতে দেয়। Open AI-এর CEO Sam Altman দ্রুত টুইট করে সমর্থন জানান।

অভ্যন্তরীণভাবে, এই ল্যাবগুলি মেসিয়ানিক চিন্তাভাবনা গ্রহণ করে, নিজেদেরকে মানবতার একমাত্র আশা হিসাবে চিত্রিত করে। এই গ্রীষ্মটি ছিল, কিছু অর্থে, আমাদের এই মতাদর্শে অন্তর্ভুক্ত করার তাদের প্রচেষ্টা—কিন্তু এটি কাজ করেনি। পরিবর্তে, এটি আমাদের প্রশ্ন করতে বাধ্য করেছে, "ওই ল্যাবগুলিতে কী চলছে?"

আমি _দ্য নিউ ইয়র্ক টাইমস_-এ একটি মতামত প্রকাশ করেছি যেখানে কংগ্রেসকে একটি পাবলিক ফ্যাক্ট-ফাইন্ডিং মিশন শুরু করার আহ্বান জানিয়েছি। আমি তিনটি মূল ক্ষেত্র প্রস্তাব করেছি: সমস্যা সৃষ্টিকারী নির্দিষ্ট সিস্টেমগুলিকে আলাদা করা, অভ্যন্তরীণ নিরাপত্তা পদ্ধতি পরীক্ষা করা (স্বায়ত্তশাসিত এজেন্টদের দ্বারা অননুমোদিত হ্যাকিং আক্রমণ সহ), এবং বিপর্যয়মূলক ভবিষ্যতবাদী মতাদর্শের ভূমিকা তদন্ত করা যা বেপরোয়া সিদ্ধান্তকে চালিত করে।

"আমাদের কিছু বেসরকারি কোম্পানিকে আমাদের অনুভূতি নির্ধারণ করতে দেওয়া বন্ধ করতে হবে," আমি উপসংহারে বলেছি। "এখন কংগ্রেসের পালা আমাদের পক্ষে হস্তক্ষেপ করে আসল ঘটনা খুঁজে বের করার।"