Anthropic ঘোষণা করেছে যে তারা MET R-এর একটি দলকে কর্মীর মতো প্রবেশাধিকার দিতে শুরু করেছে। MET R একটি অলাভজনক সংস্থা, যা অত্যাধুনিক AI মডেল মূল্যায়ন করে। MET R তাদের ঝুঁকি মূল্যায়নের ফলাফল প্রকাশ করবে। এই পদক্ষেপটি কোম্পানির সেই অঙ্গীকারের ধারাবাহিকতায় এসেছে, যেখানে তারা তাদের মডেল ও নিরাপত্তা অনুশীলনের স্বাধীন, তৃতীয়-পক্ষের মূল্যায়ন জোরদার করার প্রতিশ্রুতি দিয়েছে। এটি 'সুপার ইন্টেলিজেন্স বিষয়ক হোয়াইট হাউস অ্যাকর্ড'-এ স্বাক্ষরের সঙ্গেও সম্পর্কিত, যেখানে কোম্পানিগুলো স্বাধীন বহিরাগত নিরীক্ষক বা মূল্যায়নকারীদের সঙ্গে অংশীদারিত্বের অঙ্গীকার করেছিল।
গত এক বছরে Anthropic তাদের ঝুঁকি প্রতিবেদনের কয়েকটি পর্যালোচনায় MET R-এর সঙ্গে কাজ করেছে। কোম্পানিটি Secure Bio ও Accenture-এর সঙ্গেও মূল্যায়নকারী হিসেবে কাজ করছে এবং Hugging Face সহ আরও কয়েকটি প্রতিষ্ঠানের সঙ্গে প্রাথমিক আলোচনায় রয়েছে। Anthropic বলছে, মডেল যত শক্তিশালী হচ্ছে, তত বেশি শক্তিশালী সুরক্ষাব্যবস্থা এবং আরও চ্যালেঞ্জিং ঝুঁকি মূল্যায়নের প্রয়োজন হচ্ছে, এবং কোম্পানি তাদের সিদ্ধান্তের জন্য প্রকাশ্যে দায়বদ্ধ থাকতে চায়। কিছু নিরাপত্তা-সংক্রান্ত তথ্য ক্ষতিকর ব্যক্তিদের কাজে লাগতে পারে বা বাণিজ্যিকভাবে সংবেদনশীল, তাই কোম্পানি তৃতীয়-পক্ষের মূল্যায়নকারীদের গভীর প্রবেশাধিকার দিচ্ছে এবং তাদের প্রমাণ ও যুক্তিনির্ভর সিদ্ধান্ত ভাগ করে নিতে বলছে।
যোগ্যতার জন্য মূল্যায়নকারীদের অত্যাধুনিক মডেল মূল্যায়নে দক্ষতা থাকতে হবে, তারা যে কোম্পানির মূল্যায়ন করছে তাদের থেকে স্বাধীন হতে হবে, ঝুঁকি কার্যকরভাবে মূল্যায়নের জন্য পর্যাপ্ত প্রবেশাধিকার থাকতে হবে এবং তাদের পর্যবেক্ষণ প্রকাশের স্বাধীনতা থাকতে হবে। Anthropic এই পদ্ধতিকে ব্যাংক তদারকির সঙ্গে তুলনা করে, যেখানে নিয়ন্ত্রকরা বৃহত্তম ব্যাংকগুলোর ভেতরে স্থায়ী পরিদর্শক নিয়োগ করেন।
Anthropic MET R-এর ছয়জন কর্মীকে কোম্পানির হার্ডওয়্যার, অফিস স্থান এবং অভ্যন্তরীণ টুলসের প্রবেশাধিকার দিয়ে যুক্ত করেছে, যা প্রায় তাদের নিজস্ব ঝুঁকি মূল্যায়ন দলের সমান। Anthropic প্রকাশনা আটকাতে পারে না, তবে গ্রাহকের ডেটা, আইনি বিশেষাধিকারপ্রাপ্ত তথ্য বা মডেল স্থাপত্যের মতো সংকীর্ণ, পূর্বনির্ধারিত শ্রেণিতে তথ্য সম্পাদনা (রিডাকশন) দাবি করতে পারে। কোম্পানি বলছে, এই ব্যবস্থা অন্য প্রতিষ্ঠানের জন্য তাদের বা তাদের গ্রাহক ও অংশীদারদের তথ্য পাওয়ার উপায় নয়।
উৎস: Hacker News · সারাংশ: HeadlinesBriefing