Klaim ini telah beredar selama beberapa bulan dan cukup konkret untuk dapat diukur: sebuah model dasar tabel memprediksi pada sebuah tabel tanpa pernah dilatih padanya dan tetap mengalahkan boosting yang disetel. Jika ini benar, setengah dekade praktik berubah bentuk. Mencari hiperparameter tidak lagi menjadi langkah wajib dan menjadi mewah yang terkadang tidak membayar.

Saya mengujinya pada kartu saya sendiri, dengan empat belas kumpulan data, empat pesaing, dan jam stopwatch yang sama untuk semua orang. Model dasar tabel dilatih sebelumnya pada jutaan tabel sintetis yang dibuat secara khusus. Ketika sebuah tabel baru tiba, ia tidak menyesuaikan satu pun bobot: ia menerima baris pelatihan sebagai konteks dan menghasilkan prediksi dalam satu pas ke depan.

Ini adalah ide pembelajaran dalam konteks yang sama yang kita ketahui dari model bahasa, dipindahkan dari kata ke kolom. Itu sebabnya kata “melatih” terasa aneh: kode masih memanggilnya fit, tetapi di dalamnya tidak ada penurunan gradien, hanya salinan data ke kartu. Itu juga menjelaskan mengapa biaya muncul di tempat yang tidak Anda harapkan.

Pelatihan hampir gratis dan prediksi adalah yang membayar, tebalik dari pohon. Dengan demikian ini terdengar abstrak, jadi berikut adalah perjalanan lengkap satu baris: sebuah permintaan datang dengan sel kosong, model menimbangnya terhadap semua yang telah terjadi, menyelesaikannya dalam satu lewat, dan mengembalikan masa depan. Pilih salah satu dari enam kasus yang saya ukur untuk melihatnya dengan data nyata mereka: risiko default, kampanye penjualan, readmisi klinis, residiv, permintaan listrik, skrining molekuler.