মাঝে ২০২৩ সালে, 'RLSlow' গবেষণা প্রকল্পের মধ্যে, আমরা প্রথম ফলাফল দেখলাম যা আমাদের আশা দিল যে আমরা তর্ক মডেলের প্রশিক্ষণকে স্কেল করতে পারবো, যা প্রি-প্রশিক্ষিত মডেলদের নিজের চিন্তার ধারা তৈরি করতে সক্ষম করবে। Szymon এবং আমি সেই রাত অফিসে থাকলাম, আমরা অসাধারণ বেঞ্চমার্ক সংখ্যা, পণ্য বা বৈজ্ঞানিক ফলাফলের बारेে চিন্তা করছিলাম না যা এই প্রযুক্তি দেবে - বরং, আমরা এই sobering তথ্য প্রক্রিয়া করার চেষ্টা করছিলাম যে আমরা আপনার জীবনকালে আমাদের থেকে বুদ্ধিমতর মেশিন দেখবো, এবং আমরা ইতিমধ্যে এই সিস্টেম들의 আকার দেখতে পাচ্ছি; আমরা চিন্তা করছিলাম কীভাবে মানুষকে এর গুরুত্ব সম্পর্কে সতর্ক করা যায়। তিন বছর পরে, তর্ক ভাষা মডেল অর্থনীতির দ্রুত বাড়नेও অংশ बन गए এবং বিজ্ঞানের সীমা ধাক্কা দেওয়া শুরু করেছে। তারা কম্পিউটার এবং গ্রাফিকাল ইন্টারফেস অপারেট করতে পারে, লোক들과 একে অপরের সাথে সহযোগিতা করতে পারে, এবং গবেষণা প্রকল্প চালাতে পারে। তারা কম্পিউটার নিরাপত্তার দৃশ্যকেও পরিবর্তন ला रहा है, এবং এতে স্পষ্ট নতুন ঝুঁকি তৈরি করছে। এই সময়কালে অনেক নতুন গবেষণা tapahtumat হয়েছে, এবং এই সিস্টেম들의 আমাদের বোঝা আবার ২০২৩-এর থেকে একটু ভিন্ন hoi গেছে। অভ্যন্তরীণ ফলাফলের ভিত্তিতে, আমার মনে হয় এই প্রগতির গতি পুনরাবৃত্তিমূলক স্ব-উন্নয়নে ধরে রাখা যেতে পারে। যদি AI উন্নয়ন তার বর্তমান পথে চালু থাকে, তবে আমরা পরবর্তী কয়েক বছর में দেখবো যে সিস্টেমগুলি সম্ভবত সমান বা বড় পরিমাণের ক্ষমতার আরও একটি উछলকে প্রতিনিধিত্ব করবে, এবং তারা নিজের উন্নয়নকে আরও বেশি চালাবো। এটি একটি সময় যা চরম সावधानির আহ্বান করে। আমি চিন্তিত যে কেউ মেশিন বুদ্ধিমতির ধারাবাহিক দ্রুত উত্থানের পরিণামের জন্য প্রস্তুত নয়। Open AI সমন্বয় এবং নিরীক্ষণের জন্য প্রযুক্তিগত সমাধান খুঁজতে থাকবে, প্রতিরক্ষামূলক সিস্টেম তৈরি করবে, এবং প্রয়োজনে একপक्षীয়ভাবে আরও স্কেলিং বন্ধ রাখবে; তবে, আমি মনে করি বিস্তৃত হস্তক্ষেপের দরকার।