যদি আপনি আমাকে Twitter-এ ফলো করেন, অথবা এই ব্লগটি পড়েন, আপনি লক্ষ্য করতে পারবেন যে আমি সাধারণত AI-এর প্রতি আশাবাদী ও উত্সাহী থেকে খুব উদ্বেগিত হয়ে গিয়েছি। আর আমি ভাবলাম, আমার জানাতে হবে কেন আমি মতামলিন পরিবর্তন করেছি। এই পোস্টের প্রতিটি অংশ AI-এর এমন একটি দিক নিয়ে আলোচনা করে যা আমার মতামলিন পরিবর্তন করেছে। আমি প্রতিটি অংশ শুরু করি আমার আগের বিশ্বাসগুলোর ব্যাখ্যা করে, এবং কেন আমি এগুলোকে ধরে নিচ্ছিলাম, এবং তারপর ব্যাখ্যা করি কেন এই বিশ্বাসগুলো পরিবর্তিত হয়েছে। বিষয় material অর্থনীতি সামঞ্জস্য নিয়ন্ত্রণ রচনা সফটওয়্যার প্রকৌশল AI-এর প্রতি স্থায়ী অবসাধন অর্থনৈতিক অবসাধন স্বয়ংক্রিয়করণ ভালো ছিল। আমরা 1790 সালে মানুষেরা কী করত তার 99% কাজ স্বয়ংক্রিয়করণ করেছি, এবং ফলাফলটি বিশাল বেকারী নয়, বরং আমরা ধনী, সুস্থ, আরও শিক্ষিত, আমাদের আরও বেশি বিশ্রাম সময় আছে, ইত্যাদি। আমার একটি অস্পষ্ট, আরম্ভিক ধারণা ছিল যে, যদিও আমি ভবিষ্যৎ AGI এর পরে কোন কাজ থাকবে তা ভবিষ্যালক্ষণ করতে পারি না, তবুও আমি কিছু করতে হবে এমন চাহিদা থাকবে। যদি কোনো জিনিস না হয়, তাহলে পোস্ট-AGI বিশ্বের অনেক বেশি অর্থনৈতিক বৃদ্ধির মানে মানুষের জায়গা, যদিও পরম দিক থেকে ছোট, আজকের অর্থনীতির চেয়ে অনেক বড় হতে পারে। এবং এটি এখনও সত্য হতে পারে। অথবা এটি আমার কল্পনাশক্তির অভাব দেখাতে পারে। যদি AI এমনভাবে বিকশিত হয় যে আমরা ও AI-এর মধ্যে স্থায়ী সমন্বয় বজায় রাখি, তাহলে আমরা পোস্ট-AGI ভবিষ্যৎেতে এখনও কাজ করতে পারি। কিন্তু যদি AI সত্যিই সাধারণ হয়ে যায়, AGI-এর G, এবং এর ওপর আরও মানুষের চেয়ে অনেক বেশি বুদ্ধিমত্তা, দ্রুতি এবং সাশ্রয়ী, তাহলে আমাদের করার মতো অন্য কিছু থাকতে পারে না, যদি না UBI-এর আয়ত্তে থাকি। মানুষেরা যখন UBI-এর কথা বলে, তখন তারা সাধারণত কাজ না থাকা একটি পোকামাকড়ের অর্থের সমস্যা নিয়ে উদ্বেগিত হয়। আমি কখনোই এই উদ্বেগ অনুভব করিনি। যখন আমি গত বছর বেকার ছিলাম, আমি গত সময় কিছু বই পড়েছিলাম এবং কোড লিখেছিলাম এবং বন্ধুদের সাথে আছিলাম। যদি ভবিষ্যৎ হয় UBI-এর আর্থিক সমর্থনে অসীম ছুটির, আমি জানি আমি কী করব। "সিংগুলারিটির আগে, বই পড়ুন এবং বাড়িতে পার্টি দিন; সিংগুলারিটির পরে, ইত্যাদি।" কিন্তু তখন আমি AGI-এর রাজনৈতিক ফলাফলগুলির কথা ভাবতে শুরু করলাম, এবং এই বিষয়ে লিখতে শুরু করলাম: কেউ মুক্ত হয়ে উঠতে পারে চালু স্থায়ী অবতল শ্রেণী থেকে: যদি মানুষ অর্থনৈতিকভাবে অকাজে হয়, তাহলে রাষ্ট্র তাদের প্রয়োজন নেই। কেন UBI প্রদান করবেন এমন মানুষদের যাদের নয় অর্থনৈতিক ক্ষমতা ও রাজনৈতিক ক্ষমতা? যখন ভবিষ্যৎ আমাদের প্রয়োজন নেই: কারখানার শ্রমীরা মেশিনগুলোকে ধ্বংস করতে পারে, ট্রাক চালকরা লজিস্টিক্স বন্ধ করতে পারে। কিন্তু যদি মানুষ অর্থনৈতিকভাবে অকাজে হয়, তাহলে মানুষের রাজনৈতিক ক্রম অগ্রাহ্য করতে তাদের অবদান প্রত্যাহার করে এমন কোনও উপায় নেই। এবং যদি AI যুদ্ধ করে, তাহলে রাষ্ট্র যেকোনোভাবে দমনাত্মক হতে পারে। গণিত গণিতবিদদের অভাবে: অধিকাংশ যুক্তি মানুষের সম্পর্কে "একটি চাকরি উপরে" উঠছে যে যুক্তিগুলো ব্যর্থ হয় কারণ AI সেই চাকরিগুলো করতে পারে। আমাদের সেবকরা আমাদের জন্য এটি করবে: যে কাজগুলো আমরা মানবিক বলে মনে করি, সেগুলোর জন্যও আমরা যন্ত্রগুলো করতে পছন্দ করি। সামঞ্জস্য আমি আশা করতাম যে সামঞ্জস্য একটি স্বাভাবিক প্রকৌশল সমস্যা হবে, যা আমরা অভিজ্ঞান এবং তদনুযায়ী অনুসন্ধান দিয়ে সমাধান করব, যেমন অন্য কোনও জিনিস। এটি সহায়ক যে প্রাথমিক LLMগুলো কোনও স্ট্যানিস্লাভ লেম উপন্যাস থেকে এমন অসমঝনীয় বিদেশি মনের মতো ছিল না, বরং অত্যন্ত মানবসদৃশ ছিল। তাদের সাথে মানুষের মতো করা কঠিন নয়। LLM-এর মধ্যে অপর্যবেক্ষিত শিখয়ের বড় অংশ মানব নীতি বুঝতে পারে ভালোভাবে: আপনি তাদের সাথে এটি নিয়ে আলোচনা করতে পারেন, তারা ব্যাখ্যা করবে, উপস্থাপনামূলক ও বিস্তারিতভাবে, কেন কোনও জিনিসটি একটি নির্দিষ্ট নৈতিক ব্যবস্থার অধীনে "ভাল" বা "খারাপ"। এবং, কারণ ক্ষমতা দুর্বল ছিল, ব্যর্থতা খুবই ছোট ছিল। 2022 সালের ChatGPT-এর সবচে খারাপ কী হতে পারত? যেমন 2024 থেকে, শক্তিশালী শিখয়ের প্রধান্য টেকনিক হয়ে উঠেছে অগ্রগতি অরূপে। এবং শক্তিশালী শিখয়ের এজেন্টগুলো ঠিক যেমন Yudkowsky বলেন। ফলে, ক্ষমতা উল্লেখানীয়ভাবে বৃদ্ধি পেয়েছে, কিন্তু মডেলগুলো বোঝা আরও কঠিন হয়ে উঠেছে (বাস্তবে: তাদের কাব্যিক রচনা আরও অস্পষ্ট হয়ে উঠেছে) এবং তারা আরও বেশি সামঞ্জস্যহীন হয়ে উঠেছে যেহেতু RL তাদের মস্তিষ্ককে পুরস্কার অন্বেষণ করে স্ক্র্যাম্বল করে। গুরুতর অসামঞ্জস্যের ঘটনাগুলো আরও বেশি ঘটছে এবং আরও গুরুত্বপূর্ণ। এটি স্পষ্ট যে AI-এর ক্ষমতা আমাদের ক্ষমতার চেয়ে অনেক, অনেক দ্রুতি বাড়ছে যা আমরা তা নিয়ন্ত্রণ করতে পারি বা আমরা তা বুঝতে পারি। নিয়ন্ত্রণ আমি ভাবলাম—অথবা বলতে গেলে, আমি অন্তর্নিহিতভাবে ভাবলাম…