Les équipes d'ingénierie d'Uber sont confrontées à un flux constant de questions de support courantes. Les équipes plateforme, qui développent des outils pour d'autres développeurs, comme le déploiement, le traitement des données et les workflows de ML, affectent généralement un ingénieur d'astreinte pour répondre aux questions reçues sur les canaux Slack. Même des demandes simples peuvent nécessiter plusieurs allers-retours avant de trouver la bonne documentation ou d'expliquer les étapes à suivre. Uber indique que ses canaux de support interne reçoivent environ 45K questions par mois, ce qui mobilise un temps d'ingénierie considérable qui pourrait être consacré à des tâches plus utiles.
La plupart des informations nécessaires pour répondre à ces questions existent déjà, mais elles sont dispersées dans Engwiki, le wiki d'ingénierie interne d'Uber, dans son Stack Overflow interne et dans d'autres documents. Trouver le bon contenu est si difficile qu'il est souvent plus simple de demander à un collègue. Genie est conçu pour rendre ces connaissances existantes accessibles directement dans les canaux Slack où les développeurs cherchent déjà de l'aide.
Genie est l'assistant IA interne d'Uber pour le support technique. Il trouve les informations pertinentes dans la documentation d'Uber, utilise un modèle de langage pour les expliquer, et permet aux ingénieurs de poursuivre la conversation ou de la transmettre à un humain. Un modèle de langage généraliste peut rédiger des explications claires, mais il ne connaît pas les plateformes privées, les procédures internes ni la documentation d'Uber. Genie comble cette lacune en associant recherche d'informations et génération de texte.
Le système prépare les connaissances, récupère les contenus pertinents, génère les réponses et vérifie leur exactitude, avec une possibilité de transfert à un expert humain lorsqu'il ne peut pas répondre. Uber recueille également les retours des utilisateurs et évalue les performances de Genie afin de l'améliorer au fil du temps.
Source: ByteByteGo · Résumé par HeadlinesBriefing