Terima kasih kepada Claude Fable 5.1, Holden Saberhagen, Gabriel Kammer, Andres Erbsen, Alice McKean, dan Tristan Wylde-Larue atas komentarnya.

Lab frontier dinilai berdasarkan narasi pengganti otomatis penuh untuk pekerja pengetahuan, tetapi model saat ini membutuhkan pengawasan yang melelahkan bahkan pada tugas sederhana. Demo utama seperti Navier-Stokes, RCE FreeBSD, dan insiden HuggingFace menyesatkan. Model hanya menggeneralisasi di dekat tugas pelatihan, dengan peringatan serius. Reward hacking membutuhkan spesifikasi ketat oleh ahli domain, yang waktunya mahal. Spesifikasi adalah keterampilan tersendiri; sedikit ahli domain yang memilikinya. Biaya tenaga kerja dapat melebihi implementasi langsung. Perangkat keras menunjukkan rasio spesifikasi terhadap desain 3:1 atau 5:1. Banyak tugas memerlukan spesifikasi yang berkembang. Spesifikasi tingkat tinggi mahal untuk diverifikasi. Navier-Stokes adalah kasus terbaik: Lean diaudit, tetapi ada bug ketepatan. Tinjauan manusia tidak berskala dan rentan terhadap hack seperti backdoor xz.

Entitas Kunci: Perusahaan: HuggingFace | Orang: Claude Fable 5.1, Holden Saberhagen, Gabriel Kammer, Andres Erbsen, Alice McKean, Tristan Wylde-Larue