কৃত্রিম বুদ্ধিমত্তা ল্যাবগুলো AI সিস্টমকে পুনরাবর্তীভাবে নিজেদের মধ্যে প্রশিক্ষিত ও উন্নত করার পথে যাচ্ছে, এই একটি উন্নয়ন যা গবেষকদের ও নির্বাহীদের মধ্যে গুরুতর উদ্বেগ তৈরি করেছে। পুনরাবর্তী স্ব-উন্নতি হলো এমন একটি প্রক্রিয়া যেখানে AI স্বয়ংক্রিয়ভাবে আরও শক্তিশালী AI-এর নতুন প্রজন্ম তৈরি ও পরিমার্জন করে, এবং এটি ক্রমবর্ধমান গতিতে ঘটে। Anthropic-এর প্রধান নির্বাহী কর্মকর্তা Dario Amodei সতর্ক করেছেন যে এই ধরনের ক্ষমতা আমাদের এই সিস্টমগুলো বোঝা ও নিয়ন্ত্রণ করার ক্ষমতাকে অতিক্রম করতে পারে, তাই এর খুব সাবধানে সাথে সাথে এগোনো উচিত, যদি überhaupt হয়।

দৈনন্দিন ব্যবহারকারীদের কাছে AI যেভাবে দেখায় এবং গবেষণা ল্যাবে তার প্রকৃত ক্ষমতার মধ্যে একটি ক্রমবর্ধমান ব্যবধান বিদ্যমান। বেশিরভাগ ব্যবহারকারী AI-কে একটি সহায়ক হিসেবে দেখেন, যদিও মাঝে মাঝে ভুলে যাওয়ার tendency—ইমেইল তৈরি, প্রশ্নের উত্তর দেওয়া, বা রেস্তোরাঁ সুপারিশ করা—এটি সম্ভব। তবে পটভূমিতে, উন্নত মডেলগুলো মানুষের দীর্ঘদিনের অমীমাংসিত জটিল গণিত সমস্যা সমাধান করছে, লুকানো সাইবার নিরাপত্তা দুর্বলতা আবিষ্কার করছে, এবং এমন কোডিং কাজ সম্পন্ন করছে যা আগে ডেভেলপারদের মাস লাগতো

ল্যাবের ভেতরে, মডেলগুলো প্রোগ্রামিং, হ্যাকিং এবং উন্নত গণিত শেখার জন্য ভার্চুয়াল পরিবেশে প্রশিক্ষিত হয়। এই প্রক্রিয়াগুলো প্রায়ই সম্পূর্ণ মানুষের তত্ত্বাবধান বা বোঝার ছাড়া ঘটে। প্রযুক্তি যত দ্রুত এগিয়ে যাচ্ছে, বিশেষজ্ঞরা যুক্তি দেন যে কেবল সীমানা অনুসরণ করা যথেষ্ট নয়। পরিবর্তে, মানুষের তত্ত্বাবধান ও নিয়ন্ত্রণকে কেন্দ্রে রাখা উচিত যাতে AI সিস্টম আমাদের পরিচালনা ক্ষমতার বাইরে না যায়।

প্রধান সত্তা: কোম্পানি: Anthropic | ব্যক্তি: Dario Amodei

প্রায়ই জিজ্ঞাসা করা হয়: AI-তে পুনরাবর্তী স্ব-উন্নতি কী?

প্রায়ই জিজ্ঞাসা করা হয়: পুনরাবর্তী স্ব-উন্নতি হলো এমন একটি প্রক্রিয়া যেখানে AI সিস্টম স্বয়ংক্রিয়ভাবে আরও শক্তিশালী AI-এর নতুন প্রজন্ম তৈরি ও পরিমার্জন করে, ক্রমবর্ধমান গতিতে, যা সম্ভবত মানুষের নিয়ন্ত্রণকে অতিক্রম করতে পারে।