নিরাপত্তা গবেষকরা সতর্ক করেছেন যে AI-তৈরি অশ্লীল কনটেন্ট প্রায় নিয়ন্ত্রণহীনভাবে ছড়িয়ে পড়ছে, অথচ নিয়ন্ত্রকরা তা থামাতে খুব সামান্যই করছেন। যুক্তরাষ্ট্র, অস্ট্রেলিয়া ও যুক্তরাজ্যের ইন্টারনেট ব্যবহারকারীদের নিয়ে Google-এর সহ-লেখা এক গবেষণায় দেখা গেছে, এমন সম্মতিবিহীন কনটেন্ট প্রায়শই ব্যক্তিগত বার্তার মাধ্যমে শেয়ার হয় বা ব্যক্তিগত ক্লাউডে সংরক্ষিত থাকে, যেখানে এটি শনাক্ত বা রিপোর্ট হওয়ার সম্ভাবনা কম। গবেষকরা উপসংহারে পৌঁছেছেন যে সবচেয়ে গুরুত্বপূর্ণ হস্তক্ষেপের জায়গা হলো ভুয়া যৌন ছবি তৈরিতে ব্যবহৃত ক্ষতিকর AI টুলগুলো।
গত কয়েক মাসের রেড-টিমিং পরীক্ষা থেকে ইঙ্গিত মিলেছে যে Google ও OpenAI-এর শীর্ষস্থানীয় ইমেজ জেনারেটররা আরও সক্ষম হওয়ার সাথে সাথে অশ্লীল আউটপুট আটকানোর ক্ষেত্রে দুর্বল হয়ে পড়ছে। Anthropic, DeepMind, Hugging Face ও OpenAI-এর জ্যেষ্ঠ নেতৃবৃন্দ ও গবেষকদের সমর্থনপ্রাপ্ত একটি জনকল্যাণমূলক সংস্থা White Circle সতর্কবার্তা দিয়েছে। গত মাসে প্রকাশিত একটি প্রিপ্রিন্টে তাদের গবেষকরা DALL·E 3, Google-এর Nano Banana 2 ও GPT-Image-2-এর নিরাপত্তা সুরক্ষায় ত্রুটি উন্মোচন করেছেন। তৈরি টুল ও API কল ব্যবহার করে তারা নিরাপত্তা ফিল্টার এড়িয়ে প্রায় ১৩ শতাংশ ক্ষেত্রে অশ্লীল কনটেন্ট তৈরি করেছেন, যাকে তারা একই মানদণ্ডে পরীক্ষিত সব পদ্ধতির মধ্যে সর্বোচ্চ বাইপাস হার বলে বর্ণনা করেছেন।
White Circle আরও জানিয়েছে, নতুন মডেল ChatGPT Images 2.5 ও Nano Banana 2.1 তাদের পূর্বসূরিদের চেয়ে "উল্লেখযোগ্যভাবে সহজে ভাঙা যায়"। কোম্পানিটি তাদের অ্যাটাক পাইপলাইন ওপেন-সোর্স করার এবং নভেম্বরে NeurIPS 2026 সম্মেলনে গবেষণাটি উপস্থাপনের পরিকল্পনা করছে। Ars Technica-র মন্তব্যের অনুরোধের জবাব Google বা OpenAI কেউই দেয়নি।
CEO Denis Shilov বলেছেন, এই ফলাফল উদ্বেগজনক, কারণ একই দুর্বলতা হ্যাকিংয়ের মতো অন্যান্য ক্ষতিকর AI আচরণ আটকাতে হালনাগাদ করা প্রতিরক্ষাকেও প্রভাবিত করতে পারে। কোম্পানির মূল বার্তা হলো, শীর্ষ ল্যাবগুলোর AI নিরাপত্তা প্রতিরক্ষা তারা যতটা স্বীকার করে, তার চেয়ে দুর্বল।
উৎস: Ars Technica · সারাংশ: HeadlinesBriefing