As recomendações são uma das partes mais importantes da experiência Netflix. O mecanismo de recomendação original da Netflix foi construído sobre milhares de recursos artesanais em usuários, itens e interações. Embora muitas mudanças tenham ocorrido nesta pilha ao longo dos anos, ela ainda é bastante complexa. É caro incorporar novos casos de uso.
Os grandes modelos de linguagem (LLMs) fizeram grandes avanços em sua capacidade de recomendar coisas a um usuário. Devido ao seu conhecimento mais amplo do mundo e compreensão da linguagem, os LLMs fazem um bom trabalho ao descobrir relações entre diferentes coisas. No entanto, você não pode simplesmente pegar um LLM pronto para uso para gerar recomendações para uma empresa como a Netflix. É por isso que a equipe de engenharia da Netflix construiu o Gen Rec.
A ideia básica por trás do Gen Rec é usar um LLM para entender melhor o histórico de visualização de um usuário e atribuir pontuações aos vários filmes e programas de TV transmitidos na Netflix. A Netflix precisa fazer uma série de ajustes no modelo base para fazê-lo funcionar com seu conteúdo e comportamento dos membros.
Um sistema de recomendação deve responder a uma pergunta básica: O que deve aparecer primeiro na lista de recomendações? A ordenação das recomendações é tratada por um componente conhecido como ranker. Ele atribui pontuações a vários itens com base em quão adequados eles parecem para um determinado usuário em uma situação específica. Quanto melhor a pontuação de um item, mais alto ele aparece.
Fonte: ByteByteGo · Resumido por HeadlinesBriefing