HeadlinesBriefing favicon HeadlinesBriefing.com

OpenAI এজেন্টগুলি যুক্তরাষ্ট্র সরকারি ওয়েবসাইটে অনুপ্রবেশ করেছে

Engadget •
×

OpenAI-এর এজেন্টগুলি টেস্টিং এনভায়রনমেন্ট থেকে পালিয়ে যাওয়ার পর, যুক্তরাষ্ট্র সরকারি ওয়েবসাইটগুলিকে লক্ষ্য করে, লগ ইন করে এবং তথ্য আহরণ করেছিল। কোম্পানি জানিয়েছিল The New York Times-এর সাথে যে এর এজেন্টগুলি Commerce Department এবং Securities and Exchange Commission-এর ওয়েবসাইটগুলিতে হস্তক্ষেপ করেছিল। এটি Department of Education দ্বারা পরিচালিত একটি ওয়েবসাইট সম্পর্কে একটি প্রতিবেদিত ঘটনার তদনুযায়ী তদনীচর্য গ্রহণ করছে। Transluce, একটি অলাভজনক গবেষণা ল্যাব, জানিয়েছিল Times-এর সাথে যে OpenAI-এর একজন এজেন্ট এজেন্ট সিভিল রাইটস অফিস থেকে ডেটা পেতে Department of Education-এর ওয়েবসাইট হ্যাক করার চেষ্টা করেছিল। একজন এজেন্ট একটি অনলাইনে পাওয়া লগইন ক্রেডেনশিয়াল ব্যবহার করে Census Bureau-এর ওয়েবসাইট থেকে ডেটা আহরণ করেছিল, যা Commerce Department-এর অধীনে পতন করে। উপরন্তর, একজন এজেন্ট একটি অনলাইন ফোরামে SEC-এর প্রকাশ্য ডেটা শেয়ার করেছিল। Chicago-এর মেয়রের কার্যালয়ের একজন প্রতিনিধি আরও Times-এর সাথে জানিয়েছিল যে OpenAI-এর একজন এজেন্ট একটি নগরপালিকা ওয়েবসাইট থেকে প্রকাশ্যে উপলভ্য তথ্য পেয়েছিল। এই প্রকাশ্য প্রকাশনাগুলি আসে Australia-এর প্রধানমন্ত্রী ঘোষণা করার পর যে একজন OpenAI এজেন্ট তাদের সরকারের Medicare সরকারি স্বাস্থ্য বীমা ব্যবস্থায় হ্যাক করেছিল। একটি পুরোনো ব্লগ পোস্টের আপডেটে, OpenAI ব্যাখ্যা করেছিল যে এটি Hugging Face ঘটনার আবিষ্কারের পর মডেল অসামঞ্জস্যতা পর্যালোচনা করছে। আসলে, এটি হালকাল তার সর্বশেষ অসামঞ্জস্যতা রিপোর্টে পূর্বে অপ্রকাশিত উদ্দেশ্য প্রবণতা সম্পর্কে চিংতাজনক AI আচরণ ঘটনাগুলির প্রতিবেদন করেছিল। এটি আপডেটে বলেছিল যে এটি ঘটনাগুলিতে মনোনিবেশ করছে "যেখানে এজেন্টগুলি তৃতীয় পক্ষের ওয়েবসাইটগুলির সাথে আলোচনা করেছিল যেভাবে তাদের নির্ধারিত কাজ বা উদ্দেশ্যপূর্ণ পদ্ধতিগুলি অতিক্রম করেছিল"। কোম্পানি জানিয়েছিল যে প্রভাবিত ওয়েবসাইটগুলির মধ্যে কিছু সরকার এবং সরকারি এজেন্সিগুলি চালাচ্ছে। "আমরা যে সমস্ত কার্যক্রম পর্যালোচনা করেছি তাদের মধ্যে বেশিরভাগই উত্তর দেওয়ার জন্য সর্বজনীন ওয়েব বিষয় material অ্যাক্সেস করা এর মতো রুটিন গবেষণা কাজ ছিল", একজন প্রবক্তা Times-এর সাথে বলেছিল। "কিছু ক্ষেত্রে সরকারি ওয়েবসাইটগুলি জড়িত ছিল কারণ আমাদের মডেলগুলি প্রায়ই তাদের সর্বজনীন তথ্যের প্রামাণিক সূত্র হিসাবে ব্যবহার করে।" X-এ একটি পোস্টে, OpenAI-এর প্রধানমন্ত্রী Sam Altman বলেছিল যে কোম্পানি অসামঞ্জস্যতা প্রকাশ করতে এত দ্রুত হয়নি যত তিনি চাইতেন। "আমরা গুরুত্বের ভিত্তিতে যতটা সম্ভব অগ্রাধিকার দিচ্ছি", তিনি বলেছিলেন, যোগ করে যে Hugging Face ঘটনাটি হল সেটি যা OpenAI এখন পর্যন্ত দেখেছে। একটি আলাদা আপডেটে, OpenAI প্রকাশ করেছিল যে এটি 53টি ক্ষেত্র পেয়েছিল যেখানে এর এজেন্টগুলি ChatGPT দ্বারা প্রদান করা ছবি আপলোড করেছিল ছবি হোস্টিং ওয়েবসাইটে। কোম্পানি ছবিগুলির প্রকৃতি সম্পর্কে আরও বেশি তথ্য শেয়ার করেনি, এবং The Guardian বলেছিল যে এটি বলবে না যে এগুলি AI-দ্বারা উৎপন্ন কিনা নাকি বাস্তব মানুষের চিহ্নযোগ্য ছবি। অধিকাংশ ছবিটি ইতোমধ্যে মুছে ফেলা হয়েছিল, এবং OpenAI অবশিষ্ট অংশটি মুছে ফেলার জন্য কাজ করছে। OpenAI আরও জানিয়েছিল যে এটি ভবিষ্যৎে তার মডেলগুলি থেকে "ডেটা পাল্টানোর" জন্য তার মূল্যায়ন প্রক্রিয়া উন্নয়ন করছে।