El fundador y CEO de Meta, Mark Zuckerberg, ha promocionado la seguridad de su nuevo asistente de IA Muse, afirmando que está "construido desde cero para la privacidad y la seguridad". Una vulnerabilidad de día cero que otorga a las aplicaciones ejecutadas localmente y a los comandos de terminal control total del agente genera serias dudas. Aumentando aún más las preguntas, Amazon comenzó el domingo a bloquear Muse en su sitio.

Meta presentó Muse hace unas semanas. El asistente "reserva citas, completa formularios y gestiona el servicio al cliente", "toma proactivamente tareas de tu plato" y puede "realizar compras, generar imágenes, crear documentos y conectarse con tus aplicaciones y servicios favoritos". La aplicación para mac OS (curiosamente, no hay versión para Windows) también funciona con el Whats App, el correo electrónico, el calendario y las cuentas de redes sociales del usuario. Cuando una tarea requiere una herramienta que no existe, Muse crea una sobre la marcha.

El día cero permite que cualquier aplicación o comando de terminal obtenga acceso al token que autentica a los usuarios en su cuenta de Muse. Los desarrolladores de Meta diseñaron el asistente para que cualquier aplicación instalada localmente o código ejecutado, independientemente de los permisos de mac OS que tenga, pueda cambiar una larga lista de configuraciones no documentadas. Una configuración permite a los procesos cambiar el endpoint donde ocurre la transcripción. Los atacantes pueden explotar esta falla cambiando la ubicación a su propio endpoint. Una vez que eso sucede, los atacantes tienen el token que otorga control completo sobre la cuenta de Muse.

"Podemos manipular al agente y aprovechar sus privilegios para hacer lo que queramos", dijo Patrick Wardle, el experto en seguridad de mac OS que descubrió el día cero, a Ars. "Así que en lugar de tener que escribir un ladrón de malware para Mac muy completo, podemos simplemente aprovechar el propio asistente de IA". Wardle dijo que ha desarrollado varios ataques de prueba de concepto que hacen cosas como escribir archivos maliciosos en el disco y tomar fotos, en muchos casos sin indicación alguna incluso para un usuario alerta. Los representantes de Meta no respondieron a las preguntas enviadas por correo electrónico.

Entidades clave: Empresas: Meta, Amazon, Apple, Anthropic, Google | Personas: Mark Zuckerberg, Patrick Wardle