Agent LLM modern berreasoning dan berinteraksi melalui teks, sementara reasoning laten memberikan media internal efisien tetapi kehilangan akses alat asli dan transparansi reasoning. Agent Reasoning Hibrid (Agent Hibrid) menghubungkan dua arah ini dengan proses generasi yang terintegrasi. Arsitekturally, link hibrida ringan memungkinkan transisi mulus antara mode teks dan mode laten, sementara memori kerja kontinu agent mempertahankan konteks hibrida lossless melalui beberapa putaran.
Desain ini mempertahankan kemampuan agent terintegrasi alat sementara membuat pemikiran laten langsung dapat diperiksa. Berdasarkan arsitektur ini, dikembangkan algoritma pelatihan khusus untuk reasoning hibrida: SFT Hibrida menstabilkan generasi hibrida terintegrasi alat dengan mengajarkan backbone untuk berkoordinasi dengan Link Hibrida, kemudian RL Hibrida mengembangkan reasoning dengan belajar kapan berpikir di ruang laten dan kapan bertindak melalui teks. Agent Hibrid dievaluasi pada 3 skala model melalui 11 benchmark yang mencakup matematika, ilmu pengetahuan, kedokteran, pencarian, dan reasoning agent.
Dibandingkan dengan agent LLM frontier dan kerangka kerja agent, Agent Hibrid meningkatkan performa secara konsisten sebesar 10.4%, sementara mengurangi token sebesar 35.5%-54.7%, inferensi 1.8x-2.6x lebih cepat, dan penghematan biaya 2.7x-3.7x. Kode dan data tersedia di URL ini: https://example.com. Penelitian mengatasi tantangan membangun agent yang berpikir di luar bahasa manusia namun masih bertindak melalui lingkungan luar, menawarkan solusi praktis yang menggabungkan efisiensi reasoning laten dengan aksesibilitas interaksi berbasis teks.
Pendekatan terintegrasi mewakili kemajuan signifikan dalam membuat pemikiran laten langsung dapat diperiksa sementara mempertahankan kemampulan agent terintegrasi alat.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing