OpenAI সরকার সহ “ডজন” অংশীদারকে জানিয়েছে যে তার সরঞ্জামগুলি তাদের সিস্টেম লঙ্ঘন করেছে, এটি একটি স্বীকারোক্তি যা উন্নত AI এর ঝুঁকি সম্পর্কে উদ্বেগ বাড়িয়ে দেওয়ার সম্ভাবনা রয়েছে। শুক্রবার একটি ব্লগ পোস্টে, কোম্পানিটি আরও বলেছে যে তার AI এজেন্টরা অনিচ্ছাকৃতভাবে তার ব্যবহারকারীদের দ্বারা শেয়ার করা 50 টিরও বেশি ছবি ইমেজ-হোস্টিং সাইটে ফাঁস করেছে। $852 বিলিয়ন কোম্পানিটি জুলাইয়ে প্রকাশিত একটি ঘটনার পরে প্রশিক্ষণ এবং মূল্যায়নের সময় তার মডেলগুলির আচরণের পর্যালোচনা করছিল, যেখানে OpenAI দ্বারা পরীক্ষা করা AI এজেন্টরা ইন্টারনেটে পৌঁছেছিল এবং মডেল এবং ডেটা রিপোজিটরি Hugging Face হ্যাক করেছিল। পর্যালোচনার সময়, OpenAI বেশ কয়েকটি ক্ষেত্রে খুঁজে পেয়েছে যেখানে “মডেলগুলি তৃতীয় পক্ষের নিরাপত্তা নিয়ন্ত্রণ এড়িয়ে গেছে বা একটি অনলাইন পরিষেবার প্রাপ্যতা ক্ষতিগ্রস্ত করেছে; অথবা ভুল সারিবদ্ধতার ক্ষেত্রে তৃতীয় পক্ষের ওয়েবসাইট বা পরিষেবাগুলিকে নেতিবাচকভাবে প্রভাবিত করেছে”, কোম্পানি বলেছে। OpenAI তার এজেন্টদের নির্দেশ ছাড়াই তৃতীয় পক্ষের সাইটে পোস্ট করাকে একটি নতুন ধরনের নিরাপত্তা ঘটনা হিসাবে বর্ণনা করেছে, একে “এজেন্ট স্প্যাম” নাম দিয়েছে। AI ল্যাব সরকার, বিশ্ববিদ্যালয় এবং পাবলিক এজেন্সি সহ “ডজন তৃতীয় পক্ষ” কে জানিয়েছে যে তারা প্রভাবিত হতে পারে। এই স্বীকারোক্তি নতুন AI সিস্টেমের সম্ভাবনা সম্পর্কে উদ্বেগ বাড়িয়ে দেওয়ার সম্ভাবনা রয়েছে — বিশেষ করে উন্নত এজেন্ট যারা মানব তত্ত্বাবধান ছাড়াই কাজের একটি সিরিজ সম্পাদন করতে সক্ষম — তাদের নির্দেশের উদ্দেশ্য অতিক্রম করে এবং বাহ্যিক সিস্টেম লঙ্ঘন করে। এই সপ্তাহের শুরুতে জানা গেছে যে একটি OpenAI এজেন্ট অস্ট্রেলিয়ান পাবলিক হেলথ সার্ভিস ওয়েবসাইট হ্যাক করেছে, পাবলিক এবং নন-পাবলিক ফাইল অ্যাক্সেস করেছে। অস্ট্রেলিয়ান প্রধানমন্ত্রী Anthony Albanese বুধবার সেই লঙ্ঘন এবং OpenAI এর ধীর প্রতিক্রিয়াকে “স্পষ্টতই অগ্রহণযোগ্য” বলে বর্ণনা করেছেন। OpenAI, সেইসাথে প্রতিদ্বন্দ্বী AI ল্যাব Anthropic এবং Google-এ নিরাপত্তা লঙ্ঘন শিল্পব্যাপী বিরতি বা উন্নয়নে মন্দার জন্য নতুন করে আহ্বান জানিয়েছে। Sam Altman, Dario Amodei এবং Elon Musk, যথাক্রমে OpenAI, Anthropic এবং SpaceX এর প্রধান, সবাই সীমান্ত AI উন্নয়নের “গতি নিয়ন্ত্রণ” এর আহ্বান জানিয়েছেন যাতে নিরাপত্তা পরীক্ষণ স্থাপনের সাথে তাল মিলিয়ে চলতে পারে। এই বিষয়টি এই সপ্তাহে চীনা রাষ্ট্রপতি Xi Jinping এর মার্কিন যুক্তরাষ্ট্র সফরের সময় রাষ্ট্রপতি Donald Trump এবং Xi Jinping এর মধ্যে আলোচনার কেন্দ্রবিন্দুও ছিল। Trump খাতটি নিয়ন্ত্রণ বা আমেরিকার শীর্ষস্থানীয় AI ল্যাবগুলিতে কঠোর প্রতিবন্ধকতা আরোপের আহ্বান প্রতিরোধ করেছেন।