As equipes de engenharia da Uber lidam com um fluxo constante de perguntas rotineiras de suporte. As equipes de plataforma, que criam ferramentas para outros desenvolvedores, como as de deploy, processamento de dados e fluxos de ML, normalmente designam um engenheiro de plantão para responder às perguntas que chegam pelos canais do Slack. Mesmo pedidos simples podem exigir várias trocas de mensagens até que a documentação correta seja encontrada ou os passos sejam explicados. A Uber informa que seus canais internos de suporte recebem aproximadamente 45K perguntas por mês, consumindo um tempo considerável de engenharia que poderia ser dedicado a trabalhos de maior valor.
Boa parte das informações necessárias para responder a essas perguntas já existe, mas está espalhada pelo Engwiki, a wiki interna de engenharia da Uber, pelo Stack Overflow interno e por outros documentos. Encontrar o material certo é tão difícil que perguntar a um colega costuma ser mais fácil. O Genie foi projetado para disponibilizar esse conhecimento existente diretamente nos canais do Slack onde os desenvolvedores já buscam ajuda.
O Genie é o assistente interno de IA da Uber para suporte de engenharia. Ele encontra informações relevantes na documentação da Uber, usa um modelo de linguagem para explicá-las e permite que os engenheiros continuem a conversa ou a encaminhem a uma pessoa. Um modelo de linguagem de uso geral consegue escrever explicações claras, mas não conhece as plataformas privadas, os procedimentos internos e a documentação da Uber. O Genie preenche essa lacuna combinando recuperação de informações e geração de texto.
O sistema prepara o conhecimento, recupera o material relevante, gera as respostas e verifica sua correção, com um caminho para um especialista humano quando não consegue responder. A Uber também coleta feedback dos usuários e avalia o desempenho do Genie para melhorá-lo ao longo do tempo.
Fonte: ByteByteGo · Resumido por HeadlinesBriefing