決定モデルは新しい種類のAIとして注目を集めています。モデルに文脈と選択肢のセットを与えると、そこから一つを選びます。この作業に特化して訓練されているため、LLMよりもはるかに高速かつ低コストで行えます。実際には、ハイブリッドワークフローが良い出発点になります。決定モデルは選択肢が既知である閉じた選択を担当し、LLMは推論が必要な部分や白紙から生成する必要がある開いた部分を担当します。そしてPythonがワークフローを管理し、操作を実行することで全体をまとめます。
この記事では、ブラウザ自動化ワークフローの構築方法を解説します。自然言語での旅行リクエストを受け取ると、ワークフローはホテル検索サイトを操作し、適切なホテルを選び、問い合わせを準備します。ブラウザ自動化はLLMの最も実用的な用途の一つです。ブラウザを操作できるLLMは、人間にできることのほぼすべてに到達できるからです。ページの読み取り、ボタンのクリック、ドロップダウンの選択、フォームへの入力といった作業は、閉じた選択、開いた生成、オーケストレーションの三つに分類されます。
この分類から、作業の分担は自然に導き出されます。決定モデルは、カレンダーの日付のようにページ上に既にある選択肢や、カレンダーを開く、フォームを送信するといった次の操作を選びます。LLMはメッセージや説明文を書きます。Pythonはウェブサイトから情報を集め、モデル用に整え、モデルの応答を受け取り、ブラウザ操作を実行します。
結果として、ページを読み取り、決定モデルに次の操作を選ばせ、生成テキストが必要なときにだけLLMを呼び出す、という反復サイクルが生まれます。この例では、決定モデルを使うことで、すべてのステップでLLMに頼る場合と比べてワークフローが速くなるかどうかも測定しています。
出典: Towards Data Science · 要約：HeadlinesBriefing