Model bahasa besar semakin mampu menangani tugas kompleks yang melibatkan banyak langkah, sehingga muncullah kategori baru sistem berbasis LLM yang dikenal sebagai agen. Panduan ini, yang disusun dari berbagai penerapan di pelanggan, ditujukan bagi tim produk dan rekayasa yang sedang membangun agen pertama mereka. Panduan ini mencakup kerangka kerja untuk mengidentifikasi kasus penggunaan yang menjanjikan, pola untuk logika dan orkestrasi agen, serta praktik terbaik agar agen tetap aman, dapat diprediksi, dan efektif.
Apa itu agen? Jika perangkat lunak konvensional membantu pengguna menyederhanakan alur kerja, agen menjalankan alur kerja tersebut atas nama pengguna dengan tingkat kemandirian yang tinggi. Alur kerja adalah urutan langkah yang diperlukan untuk mencapai tujuan, seperti menyelesaikan masalah layanan pelanggan, memesan reservasi restoran, mengirim perubahan kode, atau membuat laporan. Chatbot sederhana, LLM satu putaran, dan pengklasifikasi sentimen yang tidak menggunakan LLM untuk mengendalikan pelaksanaan alur kerja bukanlah agen.
Agen menggunakan LLM untuk mengelola pelaksanaan alur kerja dan membuat keputusan. Agen mengenali kapan suatu alur kerja selesai, memperbaiki tindakannya bila diperlukan, dan dapat menghentikan proses serta mengembalikan kendali kepada pengguna jika gagal. Agen juga memiliki akses ke berbagai alat untuk mengumpulkan konteks dan melakukan tindakan pada sistem eksternal, serta memilih alat yang tepat sesuai kondisi alur kerja saat ini, dan selalu beroperasi dalam batasan pengaman yang didefinisikan dengan jelas.
Kapan Anda sebaiknya membangun agen? Agen cocok untuk alur kerja yang tidak memadai jika hanya mengandalkan pendekatan berbasis aturan tradisional. Analisis penipuan pembayaran menggambarkan perbedaannya: mesin aturan bekerja seperti daftar periksa, sedangkan agen LLM mengevaluasi konteks dan pola halus, lalu mengidentifikasi aktivitas mencurigakan meskipun tidak ada aturan yang jelas dilanggar. Prioritaskan alur kerja yang melibatkan pengambilan keputusan kompleks, aturan yang sulit dipelihara, atau ketergantungan besar pada data tidak terstruktur. Jika kasus penggunaan Anda tidak jelas memenuhi kriteria ini, solusi deterministik mungkin sudah memadai.
Sumber: OpenAI Blog · Diringkas oleh HeadlinesBriefing