Los equipos de ingeniería de Uber se enfrentan a un flujo constante de preguntas rutinarias de soporte. Los equipos de plataforma que crean herramientas para otros desarrolladores, como las de despliegue, procesamiento de datos y flujos de trabajo de ML, suelen asignar a un ingeniero de guardia para responder las preguntas que llegan a través de los canales de Slack. Incluso las solicitudes sencillas pueden requerir varias rondas de intercambios antes de encontrar la documentación correcta o de explicar los pasos a seguir. Uber informa de que sus canales internos de soporte reciben aproximadamente 45K preguntas al mes, lo que consume un tiempo considerable de ingeniería que podría dedicarse a trabajos de mayor valor.
Gran parte de la información necesaria para responder a estas preguntas ya existe, pero está dispersa en Engwiki, la wiki interna de ingeniería de Uber, su Stack Overflow interno y otros documentos. Localizar el material adecuado resulta tan difícil que, con frecuencia, es más fácil preguntar a un compañero. Genie está diseñado para poner ese conocimiento existente directamente a disposición de los desarrolladores en los canales de Slack donde ya buscan ayuda.
Genie es el asistente interno de IA de Uber para el soporte de ingeniería. Encuentra información relevante en la documentación de Uber, utiliza un modelo de lenguaje para explicarla y permite a los ingenieros continuar la conversación o escalarla a una persona. Un modelo de lenguaje de propósito general puede redactar explicaciones claras, pero no conoce las plataformas privadas, los procedimientos internos ni la documentación de Uber. Genie cubre esa carencia combinando la recuperación de información con la generación de texto.
El sistema prepara el conocimiento, recupera el material relevante, genera las respuestas y comprueba su corrección, con una vía para contactar a un experto humano cuando no puede responder. Uber también recopila la opinión de los usuarios y evalúa el rendimiento de Genie para mejorarlo con el tiempo.
Fuente: ByteByteGo · Resumido por HeadlinesBriefing