Los modelos de lenguaje grandes (LLMs) necesitan cantidades de datos mucho mayores que los niños para aprender lenguaje. Entender por qué podría ayudarnos a crear modelos más eficientes y revelar más sobre las mentes en desarrollo.

Las personas han estado hablando entre sí durante al menos 100,000 años, según lo que podemos determinar. Y durante todo ese tiempo, solo ha habido una cosa en el mundo capaz de aprender un lenguaje humano hasta la fluidez perfecta: un niño humano. Ahora hay dos. Hace apenas cuatro años desde el lanzamiento de [ADDRESS], muchos de nosotros ahora damos por sentado que podemos conversar naturalmente con nuestros teléfonos o computadoras.

Los LLMs como [PERSON_NAME], [PERSON_NAME] y los modelos GPT de Open AI son lo suficientemente fluidos y flexibles como para fingir convincentemente ser humanos. Pero si miramos detrás del telón computacional, hay un truco: enseñar a una computadora a usar el lenguaje humano aún requiere una cantidad inhumana de datos. Un LLM puede procesar fácilmente cien mil veces más palabras de las que una persona experimentará al dominar su lengua materna, y mucho más de lo que los niños podrían oír en su primer cumpleaños, cuando suelen comenzar a comprender el lenguaje.

El progreso reciente ha sido asombroso, [PERSON_NAME], un científico cognitivo de la Universidad de Stanford, dice sobre los LLMs. Pero aún tenemos que quemar un bosque y raspar toda la suma del conocimiento humano para recrear este hito que ocurre en nuestras salas de estar durante un año. Esta brecha abismal entre niños y máquinas se llama la brecha de eficiencia de datos.

Entidades clave: Empresas: Open AI, Meta | Personas: [PERSON_NAME], [PERSON_NAME], [PERSON_NAME] | Ubicaciones: Universidad de Stanford, Universidad de Georgetown

Preguntas frecuentes: ¿Cómo es que los niños aún pueden superar a las máquinas lingüísticamente más sofisticadas jamás construidas?

La diferencia radica en la eficiencia de datos. Los niños aprenden lenguaje a partir de aproximadamente 100 millones de palabras antes de la adolescencia, mientras que los LLMs procesan billones de tokens. La brecha de eficiencia de datos sugiere que los niños usan estructuras cognitivas innatas o mecanismos de aprendizaje más eficientes que la IA aún no ha logrado replicar.

Pregunta frecuente: ¿Cómo es que los niños aún pueden superar a las máquinas lingüísticamente más sofisticadas jamás construidas?

Respuesta frecuente: La diferencia radica en la eficiencia de datos. Los niños aprenden lenguaje a partir de aproximadamente 100 millones de palabras antes de la adolescencia, mientras que los LLMs procesan billones de tokens. La brecha de eficiencia de datos sugiere que los niños usan estructuras cognitivas innatas o mecanismos de aprendizaje más eficientes que la IA aún no ha logrado replicar.