HeadlinesBriefing favicon HeadlinesBriefing.com

Satu Juta Agen: Masalah Sistem Terdistribusi

Hacker News •
×

Saya memikirkan agen seperti saya memikirkan orang. Satu agen adalah pekerja. Seribu agen adalah organisasi, dan organisasi mesin adalah sistem terdistribusi. Orang-orang terus memberi tahu saya bahwa agen dapat berjalan selamanya. Secara teknis itu benar. Anda dapat memanggil model dalam loop sampai kartu kredit Anda ditolak. Tetapi agen masih berjalan pada hal-hal yang terbatas: token, konteks, komputasi, memori, alat, uang. Sesuatu selalu habis. Manusia tidak jauh berbeda. Kita bekerja sebentar dan menjadi lelah. Memori kerja kita kecil. Kita melupakan hal-hal. Jadi kita menulis bagian-bagian penting, tidur, dan kembali keesokan paginya dengan kepala jernih dan identitas yang sama. Mesin memiliki kendala yang sama dalam bentuk yang berbeda. Sebuah kotak kehabisan CPU. Sebuah pod kehabisan memori. Tidak ada yang memperbaikinya dengan berasumsi bahwa setiap proses harus hidup selamanya. Kita menjadwalkan pekerjaan pada sumber daya yang kita miliki. Saya tidak melihat mengapa kecerdasan mendapat pengecualian. Seorang agen dapat bekerja sebentar, menulis apa yang penting, membersihkan konteksnya, dan membiarkan dirinya atau agen lain melanjutkan dari sana. Kami menjalankan agen pengkodean kami sendiri di VPS di Ins Forge, dan mereka sering dibunuh, dimulai ulang, dan kehabisan konteks. Kegagalan yang benar-benar menyakitkan adalah yang rencananya hanya hidup di dalam jendela konteks agen.

Menambahkan agen membantu pekerjaan paralel hingga 80,9% dan merugikan pekerjaan sekuensial sebesar 39% hingga 70% dalam studi 180 konfigurasi Google Research. Bentuk tugas menentukan. Seorang orkestrator mengurangi amplifikasi kesalahan dari 17,2× menjadi 4,4× dalam studi yang sama. Koordinasi adalah pekerjaan nyata. Dalam Silo-Bench (ACL 2026), tim yang terdiri dari 2 hingga 100 agen banyak berbicara dan bernalar dengan buruk. Tugas yang paling sulit mencapai keberhasilan nol pada 50 agen. Jadi hal yang tahan lama haruslah status, bukan agen. Jadwalkan agen seperti proses dan pulihkan seperti node.

Agen mulai terlihat seperti proses. Ini berhenti menjadi analogi beberapa waktu lalu. Ada seluruh jalur penelitian yang membangunnya. AIOS, "Sistem Operasi Agen LLM" dari Rutgers, membuka masalahnya dalam satu kalimat: "Mengizinkan akses tidak terbatas ke sumber daya LLM atau alat dapat menyebabkan alokasi dan pemanfaatan sumber daya yang tidak efisien atau bahkan berpotensi berbahaya bagi agen." Jawaban mereka adalah kernel. Setiap permintaan agen dipecah menjadi panggilan sistem, penjadwal memutuskan panggilan siapa yang berjalan berikutnya, dan manajer konteks mengambil snapshot agen di tengah tugas sehingga dapat diinterupsi dan dilanjutkan. Mereka melaporkan eksekusi hingga 2,1× lebih cepat saat melayani agen yang dibangun di atas kerangka kerja yang ada. Penjadwalan, peralihan konteks, manajemen memori