Setiap daftar plugin di registri plugin resmi Em Dash kini diperiksa oleh model keputusan Clef dari Cloudflare sebelum dapat muncul di katalog. Clef meninjau metadata daftar, tautan keluar, ikon, dan tangkapan layar untuk phishing, peniruan identitas, konten ofensif, penipuan, dan upaya memanipulasi sistem moderasi. Registri dibangun di atas AT Protocol, sehingga penulis plugin menerbitkan rilis yang ditandatangani dari akun mereka sendiri. Moderasi otomatis memungkinkan penulis mempertahankan model penerbitan terbuka itu tanpa menjadikan katalog sebagai pintu terbuka bagi penyalahgunaan.
Clef adalah model keputusan: alih-alih menghasilkan prosa, ia menjawab pertanyaan terbatas dengan probabilitas bertipe yang dapat ditindaklanjuti oleh kode aplikasi. Ketika plugin diterbitkan, pemberi label Em Dash mengajukan sembilan pertanyaan kepada Clef tentang teks dan tautannya, mencakup konten seksual eksplisit, konten penuh kebencian atau merendahkan martabat, kekerasan grafis, phishing, peniruan identitas, penipuan, spam, tautan menipu, media menyesatkan, dan upaya memanipulasi moderasi. Delapan pertanyaan terkait diajukan tentang setiap ikon dan tangkapan layar. Hasil 0,45 atau lebih tinggi mengirimkan daftar tersebut ke operator untuk ditinjau.
Pipeline moderasi sebelumnya memerlukan dua model tujuan umum untuk menyetujui teks, ditambah satu langkah lagi untuk gambar. Menurut Matt Kane, pemelihara utama Em Dash, "Sebelumnya kami harus menggunakan campuran model untuk mendapatkan hasil yang andal, tetapi Clef mengalahkan semuanya, sementara jauh lebih cepat." Dalam tiga pengulangan dari 21 fixture teks publik, Clef membuat keputusan yang diharapkan di semua 63 kali proses, dengan latensi moderasi teks ujung-ke-ujung sebesar 1,64 detik pada p95. Perubahan moderasi tidak menambahkan langkah baru bagi penulis plugin.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing