アプリケーションやエージェントは、ワークフロー全体で多くの小さな判断を行います。例えば、入力をどう分類するか、リクエストをどこへ振り分けるか、次にどの操作を行うかといったものです。これらは個別には単純ですが、規模が大きくなると遅延とコストが積み重なります。本日、OpenAIはDecisions APIを一般提供開始します。GPT‑6 Lunaで構築されたこのAPIは、Lunaの知能を回答範囲が限定された質問に集中させ、アプリケーションやエージェントがテキスト、画像、構造化入力からほぼリアルタイムで判断できるようにします。Responses API経由では、GPT‑6 Lunaと比べて最大10倍速く動作します。
パブリックベータ以降、OpenAIはネイティブのGPT‑Live統合、再利用されるコンテキスト向けのプロンプトキャッシュ、そして米国とEUでの推論データのレジデンシーを追加しました。開発者はネイティブのJSON入力を渡し、質問の指示に画像を含め、リクエストごとに最大400問まで質問できます。これは以前の上限の2倍です。また、アジアの複数のリージョンで容量が追加され、レイテンシも改善されています。
初期の導入では幅広い適用性が示されています。OpenAI社内では、応答時間の短縮とインタラクティブ性の向上、取引説明文の分類、そして報道を、テーマごとに、また主要な論調を裏付けるか否定するかによって分類するためにこのAPIが使われています。顧客は、AIコストの正確な配分から、言語学習体験をよりインタラクティブにすることまで、さまざまな用途で利用しています。
開発者は質問とその許容される回答を定義し、テキスト、画像、またはネイティブJSONとしてコンテキストを提供します。APIは3種類の回答タイプのいずれか、つまり確率、選択肢、またはスコアを返し、アプリケーションはそれに基づいて次の動作を決定します。GPT‑Liveと組み合わせることで、Decisions APIは音声アプリケーションがライブ会話中に迅速かつ的確な判断を下すのを助けます。例えば、サポート担当者が確認の質問をすべきか、リクエストを振り分けるべきか、問題をエスカレーションすべきかといった判断です。
出典: OpenAI Blog · 要約：HeadlinesBriefing