ستضيف OpenAI علامة مائية رقمية للنصوص والرموز المولدة في الاتحاد الأوروبي للامتثال لقواعد الشفافية الجديدة للذكاء الاصطناعي في المنطقة. ستبدأ الشركة قريبًا في إضافة علامة مائية غير مرئية للنصوص والرموز المولدة في الاتحاد الأوروبي، بعد خطوة مماثلة من Anthropic في وقت سابق من هذا العام. تستخدم OpenAI نظامًا خاصًا يسمى textGrain الذي "يضيف إشارة إحصائية غير مرئية لاختيارات الكلمات في النموذج". بمجرد الإضافة، يمكن لكاشف اكتشاف هذه الإشارات وتحديد ما إذا كانت هناك علامة مائية. تقول الشركة إن النظام "طابق أو تجاوز" أداء الأساليب الأخرى، مثل Synth ID للنصوص. ومع ذلك، تحذر من أن "الأداء القوي في الظروف المثالية لا يضمن الكشف الموثوق في الاستخدام اليومي". تعترف بأن النص الأقصر يصعب اكتشافه، بمعدل نجاح حوالي 80 بالمائة. وينطبق الشيء نفسه على "محتوى مثل الرياضيات". حتى تحرير النص يبدو أنه يقلل من معدل النجاح. تخطط OpenAI لجعل التكنولوجيا متاحة في المصدر المفتوح حتى يتمكن الآخرون من تعديلها. لن يتم تمكين العلامة المائية افتراضيًا، باستثناء "مخرجات النص المؤهلة من ChatGPT وCodex في الاتحاد الأوروبي". يمكن للعملاء الاشتراك "لنماذج محددة". سيكون الوصول إلى برنامج الكشف مقتصرًا في البداية على "الباحثين المعتمدين والمنظمات الخبيرة". المادة 50 من قانون AI للاتحاد الأوروبي تلزم مزودي أنظمة AI التوليدية بجعل مخرجات النص قابلة للتحديد بطريقة قابلة للقراءة آليًا، مع وجود كيانات سابقة مثل OpenAI وAnthropic وMicrosoft وGoogle وMeta حتى 2 ديسمبر للامتثال.
المصدر: Engadget · لخّصه HeadlinesBriefing