কন্টেন্ট প্রোভেন্যান্স মানুষকে বুঝতে সাহায্য করে যে কন্টেন্ট কোথা থেকে এসেছে, এটি কীভাবে তৈরি বা সম্পাদিত হয়েছে এবং এতে আমাদের মডেলের সাথে সম্পর্কিত সংকেত রয়েছে কিনা। আজ, আমরা EU AI আইন-এর প্রতিক্রিয়ায় টেক্সট ওয়াটারমার্কিংয়ের আমাদের পদ্ধতি শেয়ার করছি এবং এটি কীভাবে আমাদের বৃহত্তর কাজের সাথে খাপ খায়।
আজ থেকে শুরু করে, বিশ্বব্যাপী API গ্রাহকরা নির্বাচিত মডেলগুলির জন্য টেক্সট ওয়াটারমার্কিংয়ে অপ্ট ইন করতে পারেন। আগামী সপ্তাহগুলিতে, আমরা ইউরোপীয় ইউনিয়নে যোগ্য ChatGPT এবং Codex টেক্সট আউটপুটে একটি অদৃশ্য ওয়াটারমার্ক যুক্ত করব। আমরা আমাদের টেক্সট ওয়াটারমার্ক ডিটেক্টরে অ্যাক্সেসের জন্য আবেদন খুলছি, প্রাথমিকভাবে অনুমোদিত গবেষক এবং বিশেষজ্ঞ সংস্থাগুলির মধ্যে সীমাবদ্ধ।
আমাদের টেক্সট ওয়াটারমার্কিং প্রযুক্তি, text Grain, মডেলের শব্দ পছন্দগুলিতে একটি অদৃশ্য পরিসংখ্যানগত সংকেত যোগ করে। গণিতের মতো বিষয়বস্তুর জন্য সনাক্তকরণের হার যথেষ্ট কম ছিল, যেখানে শব্দ পছন্দে কম নমনীয়তা রয়েছে। সম্পাদনা ওয়াটারমার্ককে দুর্বল করতে পারে; 10% শব্দকে প্রতিশব্দ দিয়ে প্রতিস্থাপন করলে সনাক্তকরণ প্রায় 92% থেকে 66% এ কমে যায়।
উৎস: OpenAI Blog · সারাংশ: HeadlinesBriefing