HeadlinesBriefing favicon HeadlinesBriefing.com

LLM Klasifikasi adalah Insinyur Fitur

Hacker News •
×

Menggunakan LLM langsung sebagai klasifikasi menantang besar: menghasilkan label keras tanpa kalibrasi yang andal, kesulitan menyematkan data terstruktur bersama teks tak terstruktur, dan kurangnya interpretabilitas tentang elemen prompt yang mempengaruhi keputusan. LLM juga membawa priors yang sudah dibangun yang mungkin tidak sesuai dengan distribusi kelas populasi target.

Solusinya adalah menganggap output LLM sebagai fitur dalam kerangka machine learning tradisional. Mengelilingi LLM verdict dengan logistic regression — p(y=1|x) = σ(α + β·LLM(x)) — memulihkan probabilitas yang terkalibrasi, memungkinkan kendali threshold prinsipal untuk tradeoff precision-recall. Pelatihan pada data yang terlabel menyesuaikan model dengan baseline populasi spesifik dan memungkinkan penyematkan kovarian struktur tambahan. Mengulang bobot contoh dapat menargetkan distribusi interesse yang berbeda.