OpenAI মডেল অসঙ্গতি ট্র্যাক, তদন্ত এবং প্রকাশের জন্য একটি নতুন ফ্রেমওয়ার্ক শেয়ার করেছে, সাথে গত ছয় মাসে পর্যবেক্ষণ করা অপ্রত্যাশিত আচরণের ছয়টি রিপোর্ট। পূর্বে, প্রকাশগুলি তদর্থ ছিল এবং আদর্শের চেয়ে কম ঘন ঘন ছিল। ফ্রেমওয়ার্কের লক্ষ্য হল পর্যবেক্ষণের পরে অসঙ্গতি রিপোর্ট প্রকাশ করা ত্বরান্বিত করা, এমনকি সম্পূর্ণ ব্যাখ্যা বা প্রশমন ছাড়াই।

AI সিস্টেমগুলি আরও উন্নত হওয়ার সাথে সাথে, অ্যালাইনমেন্ট গবেষণায় একটি বিস্তৃত ঐকমত্য প্রয়োজন। OpenAI বিশ্বাস করে না যে শিল্পটি অ্যালাইনমেন্ট এবং মনিটরিং যথেষ্ট পরিমাণে সমাধান করেছে যাতে আরও বেশি সময় ধরে সর্বোচ্চ গতিতে স্কেলিং চালিয়ে যাওয়া যায়। AI উন্নয়নের সিদ্ধান্তগুলি এমন প্রমাণের উপর ভিত্তি করে হওয়া উচিত যা ফ্রন্টিয়ার মডেল কোম্পানিগুলির বাইরের লোকেরা পরীক্ষা করতে পারে।

অসঙ্গতির উদাহরণগুলি অন্যান্য ডেভেলপাররা যে সমস্যাগুলির সম্মুখীন হতে পারে তা চিহ্নিত করতে, সুরক্ষায় দুর্বলতা প্রকাশ করতে বা অনুমানগুলিকে চ্যালেঞ্জ করতে সহায়তা করতে পারে। ফ্রেমওয়ার্কটি তাৎপর্য অনিশ্চিত হলেও প্রকাশের পক্ষে, যার অর্থ কিছু উদাহরণ মিথ্যা প্রমাণিত হতে পারে। অসঙ্গতি প্রকাশের জন্য স্পষ্ট মানদণ্ড সহ কোনও শিল্প-ব্যাপী ফ্রেমওয়ার্ক নেই।

OpenAI আশা করে যে এটি এই ধরনের মানদণ্ডের দিকে একটি প্রথম পদক্ষেপ, যা কী প্রকাশ করতে হবে এবং রিপোর্টের বিষয়বস্তু নির্ধারণ করে। ফ্রেমওয়ার্কটি একটি চলমান কাজ, যা অভিজ্ঞতা এবং জনসাধারণের প্রতিক্রিয়ার মাধ্যমে পরিমার্জিত হবে। এটি একটি মডেলের জীবনচক্র জুড়ে যোগ্য আচরণকে কভার করে — প্রশিক্ষণ, মূল্যায়ন, পরীক্ষা এবং স্থাপনা — যার মধ্যে অননুমোদিত ক্রিয়া, সমন্বয়, পরিহার এবং সুরক্ষাকে প্রশ্নবিদ্ধ করে এমন ব্যর্থতা অন্তর্ভুক্ত।

মূল সত্তা: কোম্পানি: OpenAI