Во многих системах LLM есть категориальная ошибка: извлекать документы, помещать их в контекст и называть ответ «обоснованным». Извлечение дает доступ к кандидатам на доказательства, но не доказывает, что извлеченный отрывок поддерживает утверждение. Отрывок может быть устаревшим, неполным, тематически похожим, но не влекущим за собой, противоречивым, недоверенным или вредоносно внедренным. В оригинальной статье RAG происхождение было определено как открытая проблема.

Пост-RAG цель должна заключаться в повествовательной системе, основанной на доказательствах, где каждое материальное утверждение получает проверяемую поддержку, каждое бизнес-решение прослеживается, а неопределенность имеет первоклассное представление. Оптимизация системы доказательств создает артефакт, который разработчик может проверить. Новая единица контроля — атомарное утверждение, а не документы. Реестр утверждений перечисляет все атомарные утверждения с доказательствами и контролями: стабильный claim_id, текст утверждения с точным диапазоном, дословные диапазоны доказательств, канонический источник с хэшем содержимого, контекст извлечения и решение о поддержке (напрямую поддержано, разрешенный синтез, недостаточно доказательств, противоречивые доказательства, не поддержано).

Непреложный шлюз публикации: материальное утверждение без приемлемой поддержки — это запрос на пересмотр, воздержание, маркировку как вывод или эскалацию. Это вынуждает продуктовое решение между неподдержанной беглостью и видимой неопределенностью.

Ключевые сущности: Компании: Towards Data Science