Die Engineering-Teams von Uber sehen sich einem ständigen Strom routinemäßiger Supportfragen gegenüber. Plattform-Teams, die Werkzeuge für andere Entwickler entwickeln, etwa für Deployments, Datenverarbeitung und ML-Workflows, weisen in der Regel einen Bereitschaftsingenieur zu, der Fragen beantwortet, die über Slack-Kanäle eingehen. Selbst einfache Anfragen können mehrere Runden des Hin und Her erfordern, bevor die richtige Dokumentation gefunden oder die Schritte erklärt sind. Uber berichtet, dass seine internen Support-Kanäle monatlich etwa 45K Fragen erhalten, was erhebliche Entwicklerzeit bindet, die für wertvollere Aufgaben genutzt werden könnte.
Ein Großteil der Informationen, die zur Beantwortung dieser Fragen nötig sind, existiert bereits, ist aber auf Engwiki, Ubers internes Engineering-Wiki, das interne Stack Overflow und weitere Dokumente verteilt. Das passende Material zu finden ist so schwierig, dass es oft einfacher ist, eine Kollegin oder einen Kollegen zu fragen. Genie ist darauf ausgelegt, dieses vorhandene Wissen direkt in den Slack-Kanälen verfügbar zu machen, in denen Entwickler ohnehin Hilfe suchen.
Genie ist Ubers interner KI-Assistent für den Engineering-Support. Er findet relevante Informationen in Ubers Dokumentation, nutzt ein Sprachmodell, um sie zu erklären, und ermöglicht es Ingenieuren, das Gespräch fortzuführen oder an einen Menschen weiterzugeben. Ein allgemeines Sprachmodell kann klare Erklärungen formulieren, kennt aber Ubers private Plattformen, internen Abläufe und Dokumente nicht. Genie schließt diese Lücke, indem es Retrieval und Generierung kombiniert.
Das System bereitet Wissen auf, ruft relevantes Material ab, erzeugt Antworten und prüft deren Korrektheit, mit einem Weg zu einem menschlichen Experten, wenn es nicht antworten kann. Uber sammelt außerdem Nutzerfeedback und bewertet Genies Leistung, um es im Laufe der Zeit zu verbessern.
Quelle: ByteByteGo · Zusammengefasst von HeadlinesBriefing