O fundador e CEO da Meta, Mark Zuckerberg, promoveu a segurança de seu novo assistente de IA Muse, afirmando que é "construído do zero para privacidade e segurança". Uma vulnerabilidade zero-day que dá a aplicativos executados localmente e comandos de terminal controle total do agente levanta sérias dúvidas. Aumentando ainda mais as questões, a Amazon começou no domingo a bloquear o Muse em seu site.

A Meta apresentou o Muse há algumas semanas. O assistente "agenda compromissos, preenche formulários e lida com atendimento ao cliente", "assume proativamente tarefas do seu prato" e pode "fazer compras, gerar imagens, criar documentos e conectar-se com seus aplicativos e serviços favoritos". O aplicativo para mac OS (curiosamente, não há versão para Windows) também funciona com o Whats App, e-mail, calendário e contas de redes sociais do usuário. Quando uma tarefa exige uma ferramenta que não existe, o Muse cria uma na hora.

O zero-day permite que qualquer aplicativo ou comando de terminal obtenha acesso ao token que autentica os usuários em sua conta Muse. Os desenvolvedores da Meta projetaram o assistente para que qualquer aplicativo instalado localmente ou código executado, independentemente das permissões do mac OS que possua, possa alterar uma longa lista de configurações não documentadas. Uma configuração permite que processos alterem o endpoint onde a transcrição ocorre. Os atacantes podem explorar essa falha alterando o local para seu próprio endpoint. Uma vez que isso acontece, os atacantes têm o token que dá controle completo sobre a conta Muse.

"Podemos manipular o agente e aproveitar seus privilégios para fazer o que quisermos", disse Patrick Wardle, o especialista em segurança de mac OS que descobriu o zero-day, ao Ars. "Então, em vez de termos que escrever um ladrão de malware para Mac muito abrangente, podemos simplesmente aproveitar o próprio assistente de IA." Wardle disse que desenvolveu vários ataques de prova de conceito que fazem coisas como escrever arquivos maliciosos no disco e tirar fotos, em muitos casos sem qualquer indicação até mesmo para um usuário alerta. Representantes da Meta não responderam às perguntas enviadas por e-mail.

Entidades principais: Empresas: Meta, Amazon, Apple, Anthropic, Google | Pessoas: Mark Zuckerberg, Patrick Wardle