Les grands modèles de langage (LLM) ont besoin de quantités de données énormément supérieures à celles des enfants pour apprendre le langage. Comprendre pourquoi pourrait nous aider à créer des modèles plus efficaces et à en apprendre davantage sur les esprits en développement.

Les humains se parlent depuis au moins 100 000 ans, autant que nous puissions le dire. Et pendant tout ce temps, il n'y a eu qu'une seule chose au monde capable d'apprendre une langue humaine jusqu'à la fluidité parfaite : un enfant humain. Maintenant, il y en a deux. Il y a seulement quatre ans depuis la sortie de [ADDRESS], beaucoup d'entre nous considèrent maintenant comme acquis de pouvoir converser naturellement avec nos téléphones ou nos ordinateurs.

Les LLM comme [PERSON_NAME], [PERSON_NAME] et les modèles GPT d'Open AI sont suffisamment fluides et flexibles pour se faire passer convaincament pour des humains. Mais si l'on regarde derrière le rideau computationnel, il y a un hic : apprendre à un ordinateur à utiliser le langage humain nécessite encore une quantité inhumaine de données. Un LLM peut facilement traiter cent mille fois plus de mots qu'une personne n'en rencontrera en maîtrisant sa langue maternelle — et bien plus que ce que les enfants pourraient entendre à leur premier anniversaire, lorsqu'ils commencent généralement à saisir le langage.

Les progrès récents ont été étonnants, déclare [PERSON_NAME], scientifique cognitif à l'Université de Stanford, à propos des LLM. Mais nous devons encore brûler une forêt et gratter la totalité de la somme de toutes les connaissances humaines pour recréer cette étape qui se produit dans nos salons au cours d'une année. Cet écart béant entre les enfants et les machines s'appelle l'écart d'efficacité des données.

Entités clés : Entreprises : Open AI, Meta | Personnes : [PERSON_NAME], [PERSON_NAME], [PERSON_NAME] | Lieux : Université de Stanford, Université de Georgetown

FAQ : Comment les enfants peuvent-ils encore surpasser les machines linguistiquement les plus sophistiquées jamais construites ?

La différence réside dans l'efficacité des données. Les enfants apprennent le langage à partir d'environ 100 millions de mots avant l'adolescence, tandis que les LLM traitent des billions de tokens. L'écart d'efficacité des données suggère que les enfants utilisent des structures cognitives innées ou des mécanismes d'apprentissage plus efficaces que l'IA n'a pas encore réussi à reproduire.

FAQ Q : Comment les enfants peuvent-ils encore surpasser les machines linguistiquement les plus sophistiquées jamais construites ?

FAQ A : La différence réside dans l'efficacité des données. Les enfants apprennent le langage à partir d'environ 100 millions de mots avant l'adolescence, tandis que les LLM traitent des billions de tokens. L'écart d'efficacité des données suggère que les enfants utilisent des structures cognitives innées ou des mécanismes d'apprentissage plus efficaces que l'IA n'a pas encore réussi à reproduire.