Le PDG de Y Combinator, Garry Tan, veut que les laboratoires d'IA américains à poids ouverts distillent les modèles de frontière. « Je ne ferais rien », a-t-il déclaré à CNBC, ajoutant : « On pourrait soutenir qu'il devrait exister un régime américain de distillation. » Il a expliqué à TechCrunch que les plus petits laboratoires d'IA américains à poids ouverts devraient utiliser les mêmes techniques d'entraînement sur les laboratoires d'IA américains de frontière, donnant aux États-Unis un ensemble plus robuste d'options à poids ouverts qui ne soient pas chinoises.

La distillation, c'est lorsqu'un créateur de modèle sollicite intensivement un autre modèle pour apprendre comment il fonctionne et raisonne. Elle est couramment, et légitimement, utilisée par les laboratoires d'IA pour aider à entraîner de nouveaux modèles. Anthropic a publié cette semaine son deuxième rapport alléguant que des laboratoires chinois se livrent à des « attaques de distillation illicites », dissimulant leur identité pour distiller sans autorisation et recourant à la fraude et à des identifiants volés. Le PDG d'Anthropic, Dario Amodei, avait précédemment appelé publiquement les régulateurs américains à sévir contre la distillation.

Tan ne prône pas que les laboratoires d'IA américains utilisent des identifiants volés pour distiller. Il veut qu'ils soient libres d'entrer par la porte principale. Son argument est double : c'est un abus de pouvoir pour les laboratoires d'IA de dicter ce que leurs clients peuvent faire avec les informations que leurs modèles partagent, et les laboratoires d'IA propriétaires n'ont pas demandé la permission lorsqu'ils ont aspiré la connaissance humaine pour entraîner leurs modèles.

« Contrôler ce que les utilisateurs et les clients font avec les appels API aux modèles à poids fermés semble contraignant », a-t-il déclaré à TechCrunch. Tan veut un équilibre entre les laboratoires d'IA à poids ouverts et les laboratoires de frontière. Pour lui, le véritable scénario catastrophique de l'IA est que toute l'immense puissance de l'IA de frontière finisse entre les mains d'un seul fournisseur puissant et propriétaire. « Le scénario cauchemardesque, le scénario catastrophique pour l'IA, c'est qu'il n'y ait qu'une seule entreprise », a-t-il déclaré.

Entités clés : Entreprises : Y Combinator, Anthropic, CNBC, TechCrunch | Personnes : Garry Tan, Dario Amodei | Lieux : États-Unis, Chine, Silicon Valley

FAQ : Qu'est-ce que la distillation en IA ?

La distillation, c'est lorsqu'un créateur de modèle sollicite intensivement un autre modèle afin d'apprendre comment il fonctionne et raisonne. Elle est couramment, et légitimement, utilisée par les laboratoires d'IA pour aider à entraîner de nouveaux modèles.