Global FoundriesのCIOは、AIエージェントにはリアルタイムでガバナンスされたデータが必要であり、3つの大陸に広がるファブ間で一元化されたアイデンティティと監査証跡を備えた統一プラットフォームを再構築した後、ITおよび調達機能にエージェントを展開すると強調しました。

RAG（Retrieval-Augmented Generation）により、企業はドメイン固有のチャットボットを構築できますが、その成功は埋め込みモデルにかかっています。これはテキストをベクトルに変換し、セマンティック検索を行う翻訳者です。欠陥のある埋め込みモデルは無関係なチャンクを取得し、言語モデルに自信を持っているが間違った答えを生成させます。例えば、チャットボットは、ドキュメントに30日の制限が記載されているにもかかわらず、45日前のサブスクリプションの払い戻しを誤って確認する可能性があります。これは、埋め込みモデルが重要な時間的制約を区別できなかったためです。

RAGは2つのフェーズで動作します：インデックス作成（ドキュメントのチャンク分割、埋め込みの生成、メタデータと共にベクトルの保存）と検索（クエリの埋め込み、近くのベクトルの検索、上位チャンクの再ランキング、言語モデルへのフィード）。言語モデルはpoor検索を補いません。主要な考慮事項には、ベンチマークスコアを超えて埋め込みモデルを評価すること、商用APIとローカルデプロイメントの選択、後でモデルを切り替えるコストの理解、および柔軟なベクトルサイズのためのMatryoshka埋め込みの活用が含まれます。

主要エンティティ：会社：Global Foundries, ByteByteGo