¡Bienvenidos de nuevo! Muchos de nosotros intentamos ahora encontrar tiempo para caminar o hacer ejercicio con regularidad, incluso cuando nuestras vidas son cada vez más ajetreadas. El autor decidió incorporar correr a su rutina diaria y, como muchas personas, optó por comprar zapatillas para correr en línea. Al buscar «running shoes» en una aplicación de compras, surgió un enigma: los productos también aparecían etiquetados como walking shoes, sports shoes y sports sneakers, aunque la búsqueda usaba una sola frase. Eso planteó una pregunta sobre cómo la aplicación sabe que estos términos están relacionados, lo que llevó al autor al concepto de embeddings de palabras.
Los embeddings son importantes mucho más allá de las aplicaciones de compras. Los grandes modelos de lenguaje los utilizan para procesar las indicaciones, y los asistentes de IA que recuperan información de la web para sus respuestas, un método conocido como generación aumentada por recuperación (RAG, por sus siglas en inglés), también dependen de ellos. Los sistemas de búsqueda modernos suelen combinar la coincidencia de palabras clave, los embeddings y los modelos de clasificación, pero los embeddings son fundamentales para identificar relaciones semánticas y recuperar información por significado y no solo por coincidencias exactas de palabras.
Un embedding es una representación numérica de algo; en los embeddings de palabras, cada palabra se representa como un vector de números. Esto difiere de TF-IDF, un método estadístico que pondera los términos según la frecuencia con que aparecen en un documento y su grado de presencia en una colección. Los embeddings de palabras, en cambio, aprenden un vector para cada palabra a partir de cómo se usa junto a otras palabras, de modo que las relaciones se aprenden de los propios datos.
La siguiente pregunta es qué significa una representación vectorial aprendida y cómo se produce ese aprendizaje. Usando un sistema de búsqueda de compras en línea como ejemplo sencillo, la idea se aclara: las palabras usadas en contextos similares terminan con vectores parecidos, lo que permite a un sistema conectar «running shoes» con «sports shoes» incluso sin una coincidencia exacta.
Preguntas frecuentes: ¿Cómo saben los embeddings de palabras que dos palabras distintas están relacionadas?
Los embeddings de palabras aprenden un vector para cada palabra a partir de cómo se usa con otras palabras en los datos. Las palabras que aparecen en contextos similares reciben vectores parecidos, así que el sistema puede tratar términos como «running shoes» y «sports shoes» como relacionados aunque las palabras exactas sean distintas.
Fuente: Towards Data Science · Resumido por HeadlinesBriefing