HeadlinesBriefing HeadlinesBriefing.com

Asana pangkas biaya agen dengan GPT-6.1 Sol

OpenAI Blog •
×

Asana telah memangkas biaya model sebesar 76 kali lipat dan mempercepat agen browsernya 5 kali lipat, dengan menggunakan GPT-6 Astra di Codex untuk menjalankan eksperimen pada GPT-6.1 Sol. Asana membantu pelanggan mengotomatiskan pekerjaan di seluruh aplikasi bisnis melalui Stack AI, sebuah platform yang diakuisisinya. Dengan Stack AI, pelanggan dapat membangun alur kerja yang menavigasi situs web, mengisi formulir, dan mengumpulkan informasi tanpa menulis kode. Pada skala Asana, inefisiensi kecil dalam alur kerja ini menumpuk, sehingga CTO Stack AI, Frank Hidalgo, Ph D, berupaya membuat agen browser lebih cepat dan lebih murah untuk dijalankan. Ia menugaskan GPT-6 Astra di Codex untuk menyelidiki agen, menguji perbaikan, dan membandingkan hasilnya. Pekerjaan yang menurut perkiraannya memakan waktu satu hingga dua bulan jika dilakukan manual, selesai dalam sekitar seminggu.

Studi Asana dengan 144 kali uji coba menguji GPT-6.1 Sol dan tiga model frontier lainnya. Alur kerja yang dioptimalkan pada GPT-6.1 Sol rata-rata menghabiskan estimasi biaya model $0,47 dan sekitar empat menit per uji coba, 76 kali lebih murah dan 5 kali lebih cepat dibandingkan pengaturan produksi awal pada Model B. Arnab Bose, CPO di Asana, mengatakan pekerjaan ini menunjukkan bagaimana seorang insinyur menentukan arah sementara GPT-6 Astra menjalankan eksperimen, dan hasilnya masuk ke produksi melalui Command.

Investigasi menemukan bahwa agen menyimpan dalam cache instruksi tetap dan definisi alatnya, tetapi tidak menyimpan riwayat teks halaman dan tangkapan layar yang terus bertambah, sehingga setiap permintaan mengirim ulang riwayat tersebut dengan harga penuh. Hidalgo menguji tiga perubahan: memperluas cache ke riwayat penjelajahan, mempertahankan lebih banyak teks, dan menghapus tangkapan layar secara berkelompok. Kebijakan terbaik membiarkan tangkapan layar menumpuk hingga 20 sebelum dipangkas menjadi yang terbaru, sehingga riwayat sebelumnya tetap tidak berubah lebih lama.

Setiap konfigurasi mengumpulkan enam kolom dari masing-masing dari 32 buku di katalog demo publik. Permintaan, jejak data, dan hasil setiap sesi dicatat di Command, sehingga tim dapat meninjau studi tersebut setelahnya. Temuan diubah menjadi tiket, lalu pull request, dan perubahan dikirim ke produksi.

Sumber: OpenAI Blog · Diringkas oleh HeadlinesBriefing