El agente que confundió cuentas, saldos y mensajes ajenos
Meta lanzó Muse en septiembre y el agente se convirtió en una de las aplicaciones de mayor crecimiento de su historia: más de 10 millones de descargas, según el reportaje de TechCrunch basado en una información de Reuters. Tres meses después, empleados de la propia compañía han publicado en foros internos que Muse mezcla conversaciones entre cuentas distintas y expone datos privados que no pertenecen al usuario que tiene delante.
El caso más comentado en esas publicaciones internas es el de un miembro del equipo al que el agente le coló un mensaje extra dentro de una conversación sobre el tiempo y las mareas. El texto no tenía nada que ver con el hilo: «BTW, dos actualizaciones bancarias, tu saldo en Capital One es 2.722,58 dólares, tu saldo en Charles Schwab es 5.899,57 dólares». Eran cifras reales, con formato de moneda y decimales exactos, pero de otra persona.
El patrón se repite. Empleados describieron a Muse mostrando peticiones de cuidado de niños que nunca hicieron, consejos de carrera que nunca pidieron, pedidos de productos que no habían realizado y saldos bancarios que no eran suyos. No se trata de alucinaciones del modelo generando texto plausible: el agente estaba recuperando y devolviendo contenido almacenado en el contexto de otras cuentas.
Otro ejemplo recogido en los posts internos afecta directamente a la mensajería cifrada. Una empleada que usaba el agente en su teléfono personal recibió un recordatorio de Muse para que respondiera a un mensaje de su hermana en Signal, la aplicación de mensajería con cifrado de extremo a extremo. Su reacción, citada por el reportaje, fue tajante: «Esto parece una violación de privacidad extrema. Definitivamente no le di acceso a otras aplicaciones ni recuerdo que me lo preguntara».
Hay dos lecturas sobre la causa. La primera es un fallo de aislamiento de inquilinos en el backend: las sesiones de conversación se indexan y se consultan sin un filtro de identidad lo bastante estricto, de modo que la búsqueda semántica devuelve fragmentos de otra cuenta. La segunda es un problema de permisos en el cliente: el agente lee notificaciones o contenidos de otras apps del sistema y los incorpora a su memoria sin una autorización explícita y visible para el usuario.
Ninguna de las dos hipótesis se ha confirmado. Meta no respondió de inmediato a la petición de comentario de TechCrunch, y el reportaje se apoya en publicaciones internas de empleados consultadas por Reuters, no en una auditoría técnica publicada. Eso deja abierta la pregunta clave para cualquiera que opere un sistema de este tipo: cuántas cuentas quedaron afectadas, durante cuánto tiempo y si el problema llegó a producción más allá del entorno interno.
Lo relevante del incidente no es tanto el fallo como la categoría a la que pertenece. Un agente personal no es un chatbot con memoria: es un proceso con acceso a contexto persistente, a varias aplicaciones y, a menudo, a credenciales delegadas. Cuando el aislamiento entre usuarios se rompe, el daño no se limita a una respuesta rara. Se filtran saldos bancarios, conversaciones familiares y metadatos de mensajería cifrada, que es exactamente lo que la gente espera que nunca salga de su dispositivo.
Tampoco ayuda el contexto del mercado. Muse se presentó con una métrica de crecimiento agresiva y, como toda aplicación de consumo masivo en su primera versión, ha priorizado la adopción sobre los controles. La lección para el sector es que un agente que crece a diez millones de usuarios en semanas necesita garantías de aislamiento verificables desde el primer día, no un parche posterior.
- Empleados de Meta reportan que el agente Muse mezcla conversaciones entre cuentas distintas y muestra datos privados de terceros.
- Un caso documentado mostró saldos de Capital One y Charles Schwab ajenos dentro de un chat sobre el tiempo y las mareas.
- Otros afectados vieron peticiones de cuidado, consejos de carrera y pedidos que nunca hicieron.
- Muse recordó a una empleada responder a un mensaje de su hermana en Signal, sin permiso aparente para acceder a esa app.
- Meta no respondió a la petición de comentario; no hay cifra oficial de cuentas afectadas.
Desde una mesa de redes y telecomunicaciones, esto se lee como un problema de identidad y segmentación, no de inteligencia artificial. Cualquiera que haya montado una VPN multiusuario o un portal de acceso con sesiones sabe que el aislamiento entre inquilinos es la primera línea que se rompe cuando se añade una capa nueva: un índice compartido, un caché mal particionado o una clave de búsqueda que no incluye el identificador de usuario. Los agentes personales añaden un factor agravante, la latencia. Un saldo bancario filtrado viaja en milisegundos por una red que no ve el contenido, y el cifrado en tránsito no protege de un servidor que devuelve datos de otra cuenta.
Para quien opera infraestructura, la consecuencia práctica es que el agente debe tratarse como un servicio con datos clasificados: identificadores de usuario en cada consulta, cifrado por inquilino en reposo y trazabilidad de qué contexto se inyectó en cada respuesta. Si Meta confirma el fallo de aislamiento, el incidente servirá para imponer esa disciplina al resto del sector. Si lo achaca a un problema del cliente, la presión recaerá sobre los permisos de las apps móviles, otro terreno que los ingenieros de red y sistemas conocen bien.