HeadlinesBriefing favicon HeadlinesBriefing.com

Anthropic CEO: AI-এর ব্যাংকিং নজরদারি দরকার

Financial Times Companies •
×

Facebook-এর সহ-প্রতিষ্ঠাতা এবং 'Marketcrafters'-এর লেখক Chris Hughes যুক্তি দেন যে AI কোম্পানিগুলোর ব্যাংক নজরদারির মডেল করা নিয়ন্ত্রক নজরদারির প্রয়োজন। Anthropic-এর CEO Dario Amodei স্বাধীন মূল্যায়নকারীদের কোম্পানির সিস্টেমে রিয়েল-টাইম অ্যাক্সেসের পক্ষে যুক্তি দেন, যেমনভাবে Federal Reserve বাণিজ্যিক ব্যাংকগুলোর ভেতরে দলগুলোকে নিযুক্ত করে। এই পদ্ধতিটি নজরদারি কর্মকর্তাদের অভ্যন্তরীণ নথি পর্যালোচনা করতে এবং নেতৃত্ব ঝুঁকি পর্যাপ্তভাবে পরিচালনা করছে কিনা তা মূল্যায়ন করতে সক্ষম করবে, শুধুমাত্র রিলিজের আগে সিস্টেম পরীক্ষা করার পরিবর্তে। এই মডেলের অধীনে, এমবেডেড নজরদারি কর্মকর্তারা নিশ্চিত করবেন যে মানুষ এবং AI এজেন্টরা খারাপ আচরণ প্রতিরোধে ফোকাস থাকবে এবং চরম পরিস্থিতিতে মানুষ মডেলগুলোর ওভাররাইড করতে পারে কিনা তা যাচাই করতে স্ট্রেস টেস্টের নজরদারি করবে। নিবন্ধটি সতর্ক করে যে তরুণদের মানসিক স্বাস্থ্য এবং ভুল তথ্যের মতো বিভিন্ন সমস্যায় দমিয়ে যাওয়ার কারণে নীতি নির্মাতারা সোশ্যাল মিডিয়া নিয়ন্ত্রণে ব্যর্থ হয়েছে। AI-তে এটি পুনরাবৃত্তি এড়াতে, কংগ্রেসকে সবচেয়ে জরুরি চিন্তা - মডেল নিরাপত্তা - দিয়ে শুরু করতে হবে এবং সেখান থেকে গড়ে তুলতে হবে। একটি নিবেদিত নিয়ন্ত্রক সংস্থা, সম্ভবত AI নজরদারি অফিস, প্রতিষ্ঠা করা প্রয়োজনীয়তাগুলোকে নিয়মে রূপান্তর করবে। ব্যাংক নজরদারি থেকে পাঠগুলো প্রযুক্তিগত প্যারাডাইগম বুঝতে এবং তাদের ক্ষমতা ব্যবহার করতে ইচ্ছুক স্টাফের প্রয়োজনকে হাইলাইট করে। সিনিয়র পরীক্ষকদের কোম্পানিগুলোর মধ্যে ঘুরতে হবে যাতে ক্যাপচার প্রতিরোধ করা যায়, নিশ্চিত করে সঠিক ঝুঁকি মূল্যায়ন এবং ফ্রন্টিয়ার AI ল্যাবগুলোর কার্যকর নজরদারি।