No final do mês passado, a Anthropic divulgou um relatório que afirma que o GLM-5.3, um modelo poderoso lançado em agosto pela empresa chinesa Z.ai, representa um grande risco de ciberataques porque qualquer pessoa pode baixá-lo e modificá-lo gratuitamente. A afirmação é o mais recente capítulo de um debate antigo sobre se os modelos de IA de fronteira devem ser abertos ou permanecer trancados atrás das portas dos laboratórios de ponta.
Grande parte desse debate acontece em público, e muito dinheiro está em jogo. Jensen Huang, CEO da Nvidia, que se beneficia se as pessoas continuarem comprando seu próprio hardware para executar modelos abertos, defende com entusiasmo que os Estados Unidos desenvolvam mais deles. Dario Amodei, da Anthropic, cuja empresa poderia ser prejudicada por modelos baratos e poderosos, defende uma abordagem mais cautelosa. Por trás desses incentivos comerciais, no entanto, há substância real. Como afirma David Gray Widder, da Universidade do Texas em Austin, a forma como alguém enxerga a abertura é moldada por sua visão geral sobre a IA.
Quem se preocupa com a segurança da IA alerta que modelos abertos podem ser facilmente usados de forma indevida por agentes mal-intencionados. Outros concentram-se no potencial prático da IA e argumentam que esse poder não deveria ficar atrás das portas fechadas de algumas grandes empresas, e que modelos abertos poderiam difundi-lo mais amplamente. As opções vão desde proibir totalmente os modelos abertos até liberá-los gratuitamente, e qualquer abordagem envolve compensações entre segurança e democratização.
Os modelos abertos oferecem benefícios concretos. Modelos fechados, como os que alimentam o ChatGPT e o Claude, são acessados apenas por meio de um site, aplicativo ou API. Já os modelos abertos podem ser baixados, com seus pesos do modelo disponíveis publicamente, permitindo que as pessoas os executem em seus próprios computadores e, com conhecimento especializado, os retreinem. Atualmente, os modelos fechados são mais capazes: os oito primeiros do ranking LLM da Artificial Analysis são todos fechados, embora os modelos abertos estejam atrás por apenas alguns meses. Pesquisadores dependem de modelos abertos para observar seu funcionamento interno e suas cadeias de raciocínio, combiná-los, comprimi-los e ajustá-los. As empresas também têm motivos para preferi-los.
Fonte: MIT Technology Review AI · Resumido por HeadlinesBriefing