HeadlinesBriefing favicon HeadlinesBriefing.com

Человек в цикле без потери пропускной способности

Towards Data Science •
×

Через три недели после развертывания агента текст-в-SQL аналитик попросил его «очистить тестовые строки». Агент интерпретировал это как удаление 40% таблицы, но действие было заблокировано шагом человеческого одобрения. Этот шаг был добавлен, потому что рецензент ранее поймал опасный запрос. Однако очередь одобрения вскоре стала узким местом, с ожиданием до 20 минут. Аналитики были разочарованы, и рецензенты начали одобрять без полной проверки — явление, известное как «усталость от штампа». Решение заключалось не в ускорении очереди, а в маршрутизации действий по риску, а не по типу операции. Большинство запросов безопасны и не требуют проверки, в то время как только действия с высоким риском требуют человеческого надзора. Этот подход сохраняет безопасность без потери пропускной способности, гарантируя, что человеческое внимание сосредоточено на том, что действительно важно.