HeadlinesBriefing favicon HeadlinesBriefing.com

Unreal Agent: Agen AI Hemat Biaya dari Unreal Labs

Hacker News •
×

Jika Anda tertarik pada efisiensi biaya terdepan untuk agen AI Anda, kami ingin bekerja sama! Hubungi kami: [email protected]. Saat menerapkan agen di dunia nyata, kami ingin mereka merespons dengan cepat dan hemat biaya. Kami menyadari bahwa agen menghabiskan waktu dan token untuk mengelola panggilan alat, jadi kami membangun Unreal Agent dengan harness yang mengurangi overhead pengelolaan alat. Harness mengelola panggilan alat secara asinkron, membebaskan model dari penantian, polling, dan heartbeat. Ini memungkinkan pengguna mengarahkan agen tanpa menunggu panggilan alat, dan menjadwalkan lebih banyak pekerjaan alat yang berguna di antara panggilan model. Versi saat ini mencapai penghematan biaya hingga 40% dibanding Codex dan hingga 20% dibanding Pi dalam beban kerja nyata dan benchmark.

Jika Anda membangun produk yang mengutamakan agen, tidak ada jalur emas. SDK merek besar memiliki trade-off: SDK berorientasi CLI seperti Agent SDK milik Claude mengasumsikan sesi lokal dan subproses, sehingga memerlukan manajemen siklus hidup khusus. Mendukung penyedia lain menambah pekerjaan kompatibilitas. Dependensi berat menambah risiko pemeliharaan dan rantai pasok. Keamanan dan persetujuan melalui hook harness cenderung kurang kokoh dibandingkan batasan sandbox yang deterministik. Kami juga menginginkan harness yang menerima pengarahan pengguna tanpa penundaan dan menangani panggilan alat yang heterogen tanpa beban kognitif tambahan. Misalnya, memulai penyiapan lingkungan pengembangan sambil menjelajahi kode dan mencari di web secara paralel, tanpa pajak token. Setiap panggilan alat menambahkan catatan log peristiwa dalam status "sedang berlangsung", yang berlanjut di latar belakang; setelah selesai, kami menambahkan hasil dan memanggil LLM. Membuat ini berfungsi tanpa merusak cache adalah tantangan rekayasa.

Unreal Agent mencapai hasil yang sama dengan lebih sedikit giliran model dan token masukan. Penghematan biaya berasal dari jejak harness yang minimal, hasil alat yang dioptimalkan token, tanpa sub-agen, dan lebih banyak pekerjaan alat per giliran model. Model panggilan alat asinkron memungkinkan lebih banyak panggilan alat berat per giliran tanpa membuang token untuk polling atau menunggu. Kami membangun Unreal Agent untuk alur kerja produksi nyata, dan tampil baik juga di benchmark.

Entitas Utama: Perusahaan: Unreal Labs, Codex, Pi, Claude