O CEO da Y Combinator, Garry Tan, quer que os laboratórios de IA de peso aberto dos EUA destilem modelos de fronteira. "Eu não faria nada", disse ele à CNBC, acrescentando: "Poderíamos argumentar que deveria haver um regime americano de destilação." Ele explicou à TechCrunch que laboratórios de IA de peso aberto americanos menores deveriam usar as mesmas técnicas de treinamento nos laboratórios de IA de fronteira americanos, dando aos EUA um conjunto mais robusto de opções de peso aberto que não sejam chinesas.

A destilação é quando um criador de modelo solicita extensivamente outro modelo para aprender como ele funciona e raciocina. É comumente, e legitimamente, usada por laboratórios de IA para ajudar a treinar novos modelos. A Anthropic lançou esta semana seu segundo relatório alegando que laboratórios chineses estão envolvidos em "ataques de destilação ilícitos", escondendo suas identidades para destilar sem permissão e contando com fraude e credenciais roubadas. O CEO da Anthropic, Dario Amodei, havia anteriormente apelado publicamente aos reguladores dos EUA para reprimir a destilação.

Tan não está defendendo que laboratórios de IA americanos usem credenciais roubadas para destilar. Ele quer que eles sejam livres para entrar pela porta da frente. Seu argumento é duplo: é um excesso de poder que os laboratórios de IA determinem o que seus clientes podem fazer com as informações que seus modelos compartilham, e os laboratórios de IA proprietários não pediram permissão quando absorveram o conhecimento humano para treinar seus modelos.

"Controlar o que usuários e clientes fazem com chamadas de API para modelos de peso fechado parece restritivo", disse ele à TechCrunch. Tan quer um equilíbrio entre laboratórios de IA de peso aberto e laboratórios de fronteira. Para ele, o verdadeiro cenário apocalíptico da IA é que todo o imenso poder da IA de fronteira acabe nas mãos de um único provedor poderoso e proprietário. "O cenário de pesadelo, o cenário apocalíptico para a IA é que haja apenas uma empresa", disse ele.

Entidades-chave: Empresas: Y Combinator, Anthropic, CNBC, TechCrunch | Pessoas: Garry Tan, Dario Amodei | Locais: EUA, China, Silicon Valley