आधिकारिक Em Dash प्लगइन रजिस्ट्री में प्रत्येक प्लगइन लिस्टिंग अब कैटलॉग में दिखाई देने से पहले Cloudflare के Clef निर्णय मॉडल द्वारा जांची जाती है। Clef फ़िशिंग, प्रतिरूपण, आपत्तिजनक सामग्री, घोटालों और मॉडरेशन सिस्टम में हेरफेर करने के प्रयासों के लिए लिस्टिंग मेटाडेटा, आउटबाउंड लिंक, आइकन और स्क्रीनशॉट की समीक्षा करता है। रजिस्ट्री AT प्रोटोकॉल पर बनी है, इसलिए प्लगइन लेखक अपने स्वयं के खातों से हस्ताक्षरित रिलीज़ प्रकाशित करते हैं। स्वचालित मॉडरेशन लेखकों को उस खुले प्रकाशन मॉडल को बनाए रखने देता है बिना कैटलॉग को दुरुपयोग के लिए खुला दरवाजा बनाए।
Clef एक निर्णय मॉडल है: गद्य उत्पन्न करने के बजाय, यह टाइप की गई संभावनाओं के साथ सीमित प्रश्नों का उत्तर देता है जिन पर एप्लिकेशन कोड कार्य कर सकता है। जब कोई प्लगइन प्रकाशित होता है, तो Em Dash लेबलर Clef से इसके टेक्स्ट और लिंक के बारे में नौ प्रश्न पूछता है, जिसमें स्पष्ट यौन सामग्री, घृणास्पद या अमानवीय सामग्री, ग्राफिक हिंसा, फ़िशिंग, प्रतिरूपण, घोटाले, स्पैम, भ्रामक लिंक, भ्रामक मीडिया और मॉडरेशन में हेरफेर करने के प्रयास शामिल हैं। प्रत्येक आइकन और स्क्रीनशॉट के बारे में आठ संबंधित प्रश्न पूछे जाते हैं। 0.45 या उससे अधिक का परिणाम समीक्षा के लिए लिस्टिंग को एक ऑपरेटर को भेजता है।
पिछली मॉडरेशन पाइपलाइन को टेक्स्ट पर सहमत होने के लिए दो सामान्य-उद्देश्य मॉडल की आवश्यकता थी, साथ ही छवियों के लिए एक और पास। Em Dash के प्रमुख अनुरक्षक Matt Kane के अनुसार, "पहले हमें विश्वसनीय परिणाम प्राप्त करने के लिए मॉडलों के मिश्रण का उपयोग करना पड़ता था, लेकिन Clef ने उन सभी को हराया, जबकि बहुत तेज़ था।" 21 सार्वजनिक टेक्स्ट फिक्स्चर के तीन दोहराव में, Clef ने सभी 63 रनों में अपेक्षित निर्णय लिया, p95 पर एंड-टू-एंड टेक्स्ट मॉडरेशन विलंबता 1.64 सेकंड थी। मॉडरेशन परिवर्तन प्लगइन लेखकों के लिए कोई नया कदम नहीं जोड़ता है।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित