大規模言語モデルは、複雑で多段階のタスクを処理する能力を着実に高めており、その結果としてエージェントと呼ばれるLLM搭載システムの新たなカテゴリが生まれています。本ガイドは、数多くの顧客導入から得られた知見をもとに、初めてエージェントを構築する製品チームやエンジニアリングチーム向けに作成されました。有望なユースケースを特定するためのフレームワーク、エージェントのロジックとオーケストレーションのパターン、そしてエージェントを安全かつ予測可能で効果的に運用するためのベストプラクティスを扱っています。
エージェントとは何か。従来のソフトウェアがユーザーのワークフローの効率化を支援するのに対し、エージェントは高い独立性をもってそのワークフローをユーザーの代わりに実行します。ワークフローとは、顧客対応の問題解決、レストランの予約、コード変更のコミット、レポートの作成など、目標を達成するために必要な一連のステップを指します。LLMを使ってワークフローの実行を制御しない単純なチャットボット、単発応答型のLLM、感情分類器などは、エージェントではありません。
エージェントは、LLMを用いてワークフローの実行を管理し、意思決定を行います。ワークフローが完了したタイミングを認識し、必要に応じて自らの行動を修正できます。また、失敗した場合には実行を停止し、制御をユーザーに戻すことができます。さらに、外部システムから文脈情報を集めたり、外部システムに対して操作を行ったりするためのさまざまなツールを利用でき、ワークフローの現在の状態に応じて適切なツールを選択します。その動作は、明確に定義されたガードレールの範囲内に常に限定されます。
エージェントを構築すべきなのはどのような場合か。エージェントは、従来のルールベースの手法では対応しきれないワークフローに適しています。決済詐欺の分析がその違いを示す好例です。ルールエンジンはチェックリストのように機能し、事前に定められた条件に基づいて取引にフラグを立てます。一方、LLMエージェントは経験豊富な調査員のように、文脈を評価し、微妙なパターンを検討して、明確なルールに違反していなくても不審な動きを見つけ出します。複雑な意思決定、保守が困難なルール、非構造化データへの大きな依存といった特徴を持つワークフローを優先してください。ユースケースがこれらの基準を明確に満たさない場合は、決定論的なソリューションで十分かもしれません。
出典: OpenAI Blog · 要約：HeadlinesBriefing