Der CIO von Global Foundries betonte, dass KI-Agenten Echtzeitdaten mit Governance erfordern und vor der Bereitstellung von Agenten in den IT- und Beschaffungsfunktionen eine einheitliche Plattform über Fabriken auf drei Kontinenten mit zentraler Identität und Prüfspuren neu aufbauen müssen.

RAG (Retrieval-Augmented Generation) ermöglicht es Unternehmen, domänenspezifische Chatbots zu erstellen, aber sein Erfolg hängt vom Einbettungsmodell ab — dem Übersetzer, der Text in Vektoren für die semantische Suche umwandelt. Ein fehlerhaftes Einbettungsmodell ruft irrelevante Fragmente ab, was dazu führt, dass das Sprachmodell sichere, aber falsche Antworten generiert. Zum Beispiel könnte ein Chatbot fälschlicherweise eine Erstattung für ein 45 Tage altes Abonnement bestätigen, obwohl die Dokumentation ein Limit von 30 Tagen angibt, weil das Einbettungsmodell die kritische zeitliche Einschränkung nicht erkennen konnte.

RAG arbeitet in zwei Phasen: Indizierung (Dokumente in Fragmente aufteilen, Einbettungen generieren, Vektoren mit Metadaten speichern) und Abruf (Anfrage einbetten, nahe Vektoren suchen, Top-Fragmente neu bewerten, sie an das Sprachmodell übergeben). Das Sprachmodell kann eine schlechte Suche nicht kompensieren. Wichtige Überlegungen umfassen die Bewertung von Einbettungsmodellen über Benchmarkwerte hinaus, die Wahl zwischen kommerziellen APIs und lokaler Bereitstellung, das Verständnis der Kosten für spätere Modellwechsel und die Nutzung von Matryoshka-Einbettungen für flexible Vektorgrößen.

Wichtige Entitäten: Unternehmen: Global Foundries, ByteByteGo