Prezado Dario, você publicou hoje Devemos Acompanhar o Ritmo da Fronteira, que comprometeu a Anthropic a incorporar avaliadores de terceiros e pediu aos governos que exigissem que toda outra empresa de fronteira fizesse o mesmo. Sam Altman concordou em poucas horas. Acredito que você é sincero, então estou pedindo que você defenda uma lei diferente, uma que realmente desacelere as coisas, mesmo que isso exija um verdadeiro sacrifício da sua parte.

Qualquer modelo de IA que uma empresa ofereça ao público deve ser lançado como pesos abertos. Isso não abrangerá cada modelo que você treina, apenas aqueles que você disponibiliza ao público. Modelos internos e de pesquisa não seriam afetados, e os governos ainda poderiam acessar modelos não publicados.

Mas a Anthropic teria que publicar os pesos do Fable no dia em que ele fosse lançado, a Open AI teria que fazer o mesmo com a Astra, e assim por diante para todos os outros. Como você sabe, o financiamento para o desenvolvimento de modelos de fronteira depende de avaliações que pressupõem que os pesos permanecem proprietários. Alterando essa suposição, podemos reduzir o dinheiro disponível para futuros treinamentos e retardar o progresso em todos os laboratórios ao mesmo tempo, sem que um regulador decida algo.

Cada regulamentação que você pediu termina em captura. Não há como retardar os modelos de fronteira por meio de regulamentação que não leve à captura regulatória. Avaliadores incorporados, limites de computação, coordenação da indústria com isenções antitruste.

Tudo isso é escrito com a ajuda dos atuais laboratórios de fronteira, porque ninguém mais entende os detalhes técnicos o suficiente para escrevê-lo. Uma vez que se torna lei, ele só fica mais complexo, porque cada incidente adiciona uma regra e nenhuma regra jamais é removida. As grandes empresas podem pagar equipes de conformidade e advogados para acompanhar, e cada novo requisito torna mais difícil para qualquer outra pessoa alcançá-las.

Em vez de retardá-lo, isso protege sua posição e lucros. Por que estou pedindo isso? Você parece ser uma pessoa boa e de princípios, e tem um histórico de abrir mão de coisas pelo que acredita. Você saiu da Open AI para criar uma empresa com segurança incorporada desde o início, quando o movimento de carreira seguro teria sido ficar.

Você passou anos pedindo regulamentação para a sua própria indústria e sendo chamado de profeta do fim e capturador regulatório por isso. Você defendeu controles de exportação que reduzem seu próprio mercado. A Anthropic pagou US$ 1,5 bilhão para chegar a um acordo com os autores em vez de lutar até o fim.

E hoje você se comprometeu a desacelerar antes que qualquer outro fizesse isso. Você também teve a visão de tornar a Anthropic uma Corporação de Benefício Público (PBC), para que você possa legalmente colocar a missão em primeiro lugar: o desenvolvimento e a manutenção responsáveis de IA avançada para o benefício a longo prazo da humanidade. Isso é exatamente o tipo de decisão de missão sobre lucro de curto prazo para a qual a estrutura PBC existe.

Você ainda é a única pessoa que poderia propor uma lei como essa e ser levada a sério, e a única pessoa que provavelmente realmente a colocaria em prática. Se você realmente quer retardar o desenvolvimento da IA de fronteira, defenda uma lei que exija que cada modelo de IA disponível ao público libere seus pesos abertamente. Não há nada nisso para explorar ou contornar, mesmo para você.