Sebagian besar sistem AI dalam produksi dioptimalkan untuk memberikan jawaban alih-alih mengukur seberapa tidak pasti jawaban tersebut. Prakiraan pertumbuhan 8 persen tampak akurat, bahkan ketika hasil yang realistis berkisar dari penurunan hingga peningkatan yang jauh lebih besar. Pelanggan berisiko tinggi mungkin berada tepat di atas ambang batas yang ditetapkan secara sewenang-wenang. Begitu sebuah prediksi memicu tindakan otomatis, ketidakpastian tersembunyi berubah menjadi risiko operasional.
Metode Bayesian memetakan ketidakpastian melalui distribusi probabilitas alih-alih nilai estimasi tunggal. Sistem harus menggunakan ketidakpastian untuk memutuskan kapan ia dapat bertindak sendiri, kapan ia memerlukan pemeriksaan, dan kapan ia harus abstain. Otomatisasi mengubah biaya ketidakpastian. Sistem AI dapat mengevaluasi ribuan kasus dan bertindak dalam hitungan detik. Jika salah dengan percaya diri, ia menggandakan kesalahan.
Model Bayesian menggabungkan prior dengan data yang diamati untuk menghasilkan distribusi posterior. Untuk nilai masa depan, distribusi prediktif posterior sangat penting. Distribusi ini menggabungkan ketidakpastian tentang parameter model dengan variabilitas pengamatan masa depan. Model permintaan harus menyediakan interval prediktif posterior. Sistem churn harus menunjukkan apakah estimasi probabilitas tetap stabil di seluruh segmen pelanggan.
Skor keyakinan tidak boleh diperlakukan sebagai probabilitas kecuali dikalibrasi. Klasifikator dapat melaporkan keyakinan 90 persen tanpa benar 90 persen dari waktu. Pagaran Bayesian menerjemahkan ketidakpastian menjadi aturan untuk keputusan otomatis. Sistem harus menimbang kemungkinan hasil dan biaya keputusan yang salah.
Sumber: Towards Data Science · Diringkas oleh HeadlinesBriefing