Três semanas após implantar um agente de texto para SQL, um analista pediu que ele "limpasse linhas de teste". O agente interpretou isso como excluir 40% de uma tabela, mas a ação foi bloqueada por uma etapa de aprovação humana. Essa etapa foi adicionada porque um revisor anteriormente pegou uma consulta perigosa.

No entanto, a fila de aprovação logo se tornou um gargalo, com esperas de até 20 minutos. Os analistas ficaram frustrados, e os revisores começaram a aprovar sem escrutínio completo, um fenômeno conhecido como "fadiga do carimbo de borracha". A solução não foi acelerar a fila, mas rotear as ações por risco, não por tipo de operação.

A maioria das consultas é segura e não precisa de revisão, enquanto apenas ações de alto risco exigem supervisão humana. Essa abordagem preserva a segurança sem sacrificar a taxa de transferência, garantindo que a atenção humana se concentre no que realmente importa.