CIO компании Global Foundries подчеркнул, что ИИ-агенты требуют данных в реальном времени и управляемых данных, и перед развертыванием агентов в функциях ИТ и закупок необходимо перестроить единую платформу по заводам на трех континентах с централизованной идентичностью и аудиторскими следами.

RAG (генерация с извлечением) позволяет компаниям создавать чат-ботов, специализированных для конкретной области, но успех его работы зависит от модели встраивания — переводчика, преобразующего текст в векторы для семантического поиска. Дефектная модель встраивания извлекает нерелевантные фрагменты, что приводит к тому, что языковая модель генерирует уверенные, но неверные ответы. Например, чат-бот может неверно подтвердить возврат средств за подписку 45 дней назад, несмотря на то, что документация указывает ограничение в 30 дней, потому что модель встраивания не смогла различить критически важное временное ограничение.

RAG работает в два этапа: индексация (разделение документов на фрагменты, создание встраиваний, хранение векторов с метаданными) и извлечение (встраивание запроса, поиск ближайших векторов, переоценка верхних фрагментов, подача их на языковую модель). Языковая модель не может компенсировать плохое извлечение. Ключевые соображения включают оценку моделей встраивания, выходящую за рамки эталонных баллов, выбор между коммерческими API и локальным развертыванием, понимание стоимости замены моделей позже и использование встраиваний Matryoshka для гибкого размера векторов.

Ключевые сущности: Компании: Global Foundries, ByteByteGo