El CEO de Y Combinator, Garry Tan, quiere que los laboratorios de IA de peso abierto de EE. UU. destilen modelos frontera. "Yo no haría nada", dijo a CNBC, y añadió: "Podríamos argumentar que debería existir un régimen estadounidense de destilación". Explicó a TechCrunch que los laboratorios de IA de peso abierto estadounidenses más pequeños deberían usar las mismas técnicas de entrenamiento con los laboratorios de IA frontera estadounidenses, dando a EE. UU. un conjunto más robusto de opciones de peso abierto que no sean chinas.

La destilación es cuando un creador de modelos solicita extensamente a otro modelo para aprender cómo funciona y razona. Es comúnmente, y legítimamente, utilizada por los laboratorios de IA para ayudar a entrenar nuevos modelos. Anthropic publicó esta semana su segundo informe alegando que los laboratorios chinos están involucrados en "ataques de destilación ilícitos", ocultando sus identidades para destilar sin permiso y recurriendo al fraude y a credenciales robadas. El CEO de Anthropic, Dario Amodei, había pedido públicamente antes a los reguladores estadounidenses que tomaran medidas enérgicas contra la destilación.

Tan no aboga por que los laboratorios de IA estadounidenses usen credenciales robadas para destilar. Quiere que sean libres de entrar por la puerta principal. Su argumento es doble: es una extralimitación que los laboratorios de IA dicten lo que sus clientes pueden hacer con la información que comparten sus modelos, y los laboratorios de IA propietarios no pidieron permiso cuando absorbieron el conocimiento humano para entrenar sus modelos.

"Controlar lo que los usuarios y clientes hacen con las llamadas API a modelos de peso cerrado se siente restrictivo", dijo a TechCrunch. Tan quiere un equilibrio entre los laboratorios de IA de peso abierto y los laboratorios frontera. Para él, el verdadero escenario apocalíptico de la IA es que todo el inmenso poder de la IA frontera acabe en manos de un único proveedor poderoso y propietario. "El escenario de pesadilla, el escenario apocalíptico para la IA es que solo haya una empresa", dijo.

Entidades clave: Empresas: Y Combinator, Anthropic, CNBC, TechCrunch | Personas: Garry Tan, Dario Amodei | Ubicaciones: EE. UU., China, Silicon Valley