Мне приходилось тщательно обдумывать, как формулируются технические результаты, особенно когда предложение переписывают, чтобы оно звучало аккуратнее. Распространённая ошибка — превратить снижение ошибки на 20% в повышение точности на 20%. Поскольку снижение ошибки на 20% уменьшает небольшой оставшийся показатель, сама точность почти не меняется. Число переживает переписывание, но то, что оно описывает, меняется полностью, и ошибка может ускользнуть при беглом чтении.
Evidence Desk — браузерный инструмент, который я создал вместе с Codex, чтобы ловить подобные ошибки. Вы передаёте черновик и файлы-источники. Инструмент делит черновик на утверждения, для каждого находит ближайший фрагмент в источниках и проводит явные численные, метрические и причинные проверки. Каждому утверждению присваивается метка «Подтверждено», «Возможное несоответствие» или «Недостаточно данных». Codex помог реализовать интерфейс, логику проверки и тесты, а я определял, что инструмент должен проверять, и анализировал его поведение.
Проверка — это иная задача, нежели написание текста. Она спрашивает, действительно ли доказательства говорят то, что утверждает фраза, и это уже, чем вопрос о том, истинно ли утверждение. Вместо второй генеративной модели в роли рецензента Evidence Desk прикрепляет каждое предупреждение к фрагменту, на котором оно основано, и к указанной причине, чтобы автор имел конкретный повод для возражения.
У процесса есть пределы. Выделение утверждений устроено грубо, а поиск опирается на простое лексическое совпадение с порогами, заданными вручную. Высокий балл совпадения показывает лишь, насколько близко предложение выведено из источника, а искажённый пересказ по определению является близким выводом. В встроенном примере инструмент нашёл нужный фрагмент, но всё же не заметил несоответствия, что показывает, где проверки на основе правил перестают работать.
Источник: Towards Data Science · Сводку подготовил HeadlinesBriefing