La mayoría de los sistemas de IA en producción están optimizados para proporcionar una respuesta en lugar de medir cuán incierta es esa respuesta. Una previsión de crecimiento del 8 por ciento parece precisa, incluso cuando los resultados realistas van desde una caída hasta un aumento mucho mayor. Un cliente de alto riesgo puede estar apenas por encima de un umbral establecido arbitrariamente. En cuanto una predicción desencadena una acción automatizada, la incertidumbre oculta se convierte en riesgo operativo.
Los métodos bayesianos mapean la incertidumbre mediante distribuciones de probabilidad en lugar de valores estimados únicos. El sistema debe usar la incertidumbre para decidir cuándo puede actuar solo, cuándo necesita supervisión y cuándo debe abstenerse. La automatización cambia el costo de la incertidumbre. Un sistema de IA puede evaluar miles de casos y actuar en segundos. Si se equivoca con confianza, multiplica los errores.
Un modelo bayesiano combina un prior con datos observados para producir una distribución posterior. Para valores futuros, la distribución predictiva posterior es crucial. Combina la incertidumbre sobre los parámetros del modelo con la variabilidad en las observaciones futuras. Los modelos de demanda deben proporcionar intervalos predictivos posteriores. Los sistemas de abandono de clientes deben mostrar si las estimaciones de probabilidad permanecen estables entre segmentos de clientes.
Las puntuaciones de confianza no deben tratarse como probabilidades a menos que estén calibradas. Un clasificador puede informar un 90 por ciento de confianza sin ser correcto el 90 por ciento de las veces. Las barandillas bayesianas traducen la incertidumbre en reglas para decisiones automatizadas. El sistema debe sopesar los resultados posibles y los costos de las decisiones erróneas.
Fuente: Towards Data Science · Resumido por HeadlinesBriefing