A Anthropic publicou pesquisas afirmando que worms de IA autorreplicantes podem estar a apenas alguns meses de se espalhar por dispositivos IoT vulneráveis. O relatório do laboratório de fronteira, divulgado na segunda-feira, sugere que modelos de IA podem, eventualmente, se replicar sem depender de hardware de datacenter. Um modelo de 9 bilhões de parâmetros conseguiu configurar inferência em oito dos nove tipos de hardware testados pela Anthropic, e uma instância distribuída do Gemma4-26B-A4B rodou em 15 set-top boxes Android genéricas a 0,39 token por segundo. A Anthropic afirmou que um replicador desse tipo seria difícil de desligar, porque não há um ponto centralizado para desativar.
Na etapa de replicação, os pesquisadores usaram o GLM 5.2 da Z.ai para propagar uma cópia do Llama3.1-8B por oito instâncias do Google Cloud executando um emulador Android 15. O modelo se espalhou para todos os oito nós em quatro de cinco testes, e para sete de oito no outro. A Anthropic disse que isso sugere que pequenos modelos futuros poderiam também concluir o processo de replicação.
No entanto, o estudo tem limites claros. A Anthropic praticamente ignorou o componente de exploração cibernética, apoiando-se em artigos anteriores, e os nós-alvo foram construídos sob medida e deliberadamente deixados abertos a ataques. A própria empresa descreveu seus testes de exploração como fornecendo "um limite superior de sucesso no mundo real". Pontos de entrada comuns de botnets também podem ser prevenidos com higiene básica de segurança.
A velocidade é outra ressalva. A Anthropic estima que esses worms podem levar dias para dobrar de tamanho, enquanto o Mirai dobrou em cerca de uma hora quando surgiu em 2016. O relatório é um alerta útil sobre riscos futuros, mas não mostra que tal worm já esteja se espalhando ou que seja iminente.
Fonte: Hacker News · Resumido por HeadlinesBriefing