2 millones de canarios destapan la fuga de datos en la cadena de IA
HD Moore, de Dragos, sembró casi dos millones de secretos rastreables en prompts reales para medir las fugas en la cadena de inferencia de IA.
Canarios filtrados: la cadena de inferencia no protege tus datos
La cadena de suministro de la IA no se parece a la de un fabricante de chips: es una cadena de intermediarios, y cada eslabón ve el texto plano de lo que escribes. Un equipo de investigación dirigido por HD Moore, responsable de investigación de la firma de seguridad Dragos, lo ha demostrado de la forma más directa posible: sembrando casi dos millones de secretos rastreables dentro de peticiones reales enviadas a proveedores de modelos.
La metodología fue deliberadamente simple. Moore no inventó una vulnerabilidad al uso ni atacó ningún sistema: plantar trampas y observar dónde aparecían. Reunió un conjunto de credenciales de acceso de AWS funcionales, aunque vinculadas a cuentas vacías, contraseñas de servicios como SSH, URL únicas, nombres DNS y referencias a repositorios Git privados. Ninguno de esos secretos se había usado antes y el propio investigador controlaba la infraestructura que recibía las peticiones. Cada secreto se sembró en un único prompt enviado a un único proveedor. Si ese secreto aparecía después en algún sitio, era posible identificar exactamente qué eslabón de la cadena había filtrado la información.
El resultado, publicado por Moore a finales de semana, describe un ecosistema que filtra datos altamente sensibles como un colador. Los hallazgos se agrupan en tres categorías. La primera son tres proveedores de IA comprometidos por atacantes que usaron su acceso para desviar los prompts que recibían. La segunda son revendedores del mercado de inferencia que registraban las peticiones y las entregaban a terceros que acababan con las credenciales. La tercera son varios proveedores que no respetaron los ajustes de privacidad que el propio usuario había marcado en la petición, es decir, banderas como Zero Data Retention o «no data collection».
Los tres casos de robo de credenciales son los más graves porque afectan a la promesa central de la cadena: el texto viaja cifrado en tránsito, pero se descifra en cada salto. El prompt sale de la aplicación, llega a un router de IA como OpenRouter o Vercel, que lee el texto plano para decidir a qué motor de inferencia enviarlo, y desde ahí puede saltar a otro router o a modelos alojados en proveedores distintos. En cada uno de esos puntos es normal que se registre la petición y se guarde el tiempo que marque la política del servicio, o de forma indefinida.
Moore describe el alcance de los tres incidentes con un detalle que ilustra la posición del atacante: cada clave se envió en una única petición a un único proveedor, dentro de ventanas muy cortas a finales de octubre, y todas las peticiones enviadas en esas ventanas fueron robadas. Algunas claves robadas procedían de peticiones que el proveedor había rechazado antes de ejecutar un modelo, lo que demuestra que el atacante copiaba las peticiones en la puerta del proveedor y no en un punto más profundo de la pila. En los otros dos incidentes, parte de las peticiones robadas estaban marcadas como Zero Data Retention. Una bandera de privacidad no sirve cuando el atacante ya está dentro.
Las credenciales robadas no sirvieron solo para espiar. Los atacantes las probaron, en algunos casos en cuestión de horas, para ver a qué recursos daba acceso: recorrieron buckets de S3, gestores de secretos y parameter stores en busca de más credenciales, intentaron habilitar modelos alojados en AWS Bedrock y añadieron sus propios usuarios de IAM para mantener el acceso. En total, las claves sembradas se usaron «tens of miles» de veces en llamadas a la API de AWS.
Hay un segundo vector, más difícil de detectar y más difícil de corregir: los revendedores que se hacen pasar por proveedores. El truco es comercial antes que técnico. Para atraer tráfico a sus servidores ofrecen precios muy por debajo del mercado, activan el registro de peticiones y esperan. Moore los identificó enviando la misma petición a través de vendedores distintos: cuando las credenciales luego se reutilizaban en un camino y en otro no, sabía que el problema estaba en el revendedor y no en el modelo. En una prueba, los secretos robados a dos de los proveedores hackeados se usaron juntas casi de inmediato desde el mismo servidor alquilado, lo que apunta a un mismo adversario detrás de los dos incidentes.
El hallazgo más incómodo para los proveedores que presumen de cumplimiento tiene que ver con el rastreo de URLs. Moore documenta el caso de un laboratorio de IA chino cuyos sistemas consultaron las URL secretas incluidas en más de la mitad de los prompts enviados a sus modelos entre julio y octubre, incluidos aproximadamente dos tercios de las peticiones marcadas como «no data collection» o Zero Data Retention. El rastreador solía aparecer dos o tres días después de la petición. Lo grave es que no se limitaba a las peticiones directas: varios proveedores de alojamiento estadounidenses revenden los modelos de ese laboratorio, y las peticiones enviadas a esos proveedores disparaban exactamente el mismo rastreador, porque los prompts volvían al laboratorio. Es decir, un cliente que elegía un proveedor estadounidense para mantener sus datos dentro de Estados Unidos no recibía lo que había pagado.
El patrón se repite más allá del caso anterior: un proveedor estadounidense recorrió una URL secreta más de dos meses después de que se usara en una única llamada de inferencia, y un cliente Git en otra nube intentó clonar los repositorios privados referenciados en los prompts.
La recomendación del investigador es deliberadamente conservadora. La medida más eficaz para evitar la fuga, según Moore, es alojar los modelos en servidores on-premises. Es la opción cara. Para quien no puede permitirse un sistema autoalojado, la siguiente mejor alternativa es contratar directamente con un proveedor de primer nivel que ofrezca «un contrato y una política de privacidad que leer». Incluso así no hay garantía de que nada se filtre, pero la medida reduce las probabilidades. Y un consejo adicional que ya suena a manual de compras: no aceptar los pools de proveedores o revendedores por defecto, sino elegir siempre al proveedor final.
HD Moore, de Dragos, sembró casi dos millones de secretos rastreables en prompts reales para medir las fugas en la cadena de inferencia de IA.
Tres proveedores de IA fueron comprometidos y las peticiones se copiaban en su puerta, antes incluso de ejecutar un modelo.
Varios revendedores del mercado de inferencia registraban los prompts con precios muy bajos para desviarlos a terceros.
Múltiples proveedores ignoraron las banderas Zero Data Retention y «no data collection» del propio usuario.
Un laboratorio chino de IA rastreó URLs secretas en más de la mitad de sus prompts, también a través de revendedores estadounidenses.
Desde el punto de vista de un ingeniero de redes, esta investigación es una alerta muy seria, porque describe exactamente el fallo que se rompe en las arquitecturas de inferencia actuales. En redes y telecomunicaciones damos por hecho que cuando un paquete sale de nuestra red va a llegar al destino previsto y a nadie más. En la cadena de inferencia de IA eso no se cumple: el contrato técnico dice «se cifra en tránsito», pero el contrato comercial rara vez dice quién más ve el texto claro.
Lo más relevante de este estudio es que las banderas de privacidad (ZDR, no data collection) se están usando como si fueran un interruptor, cuando la arquitectura las contradice. Si un router intermedio descifra, registra y reenvía, la promesa del proveedor final no tiene valor técnico, por muy bien redactada que esté su política. Y aquí hay un matiz importante: no hace falta un atacante sofisticado. Basta con un revendedor que ofrece precios Competitivos porque su modelo de negocio es otro, o con un proveedor comprometido que roba en la puerta. La superficie de ataque no está en el modelo, está en el camino.
Mi lectura es que el trabajo de Moore conecta dos mundos que hasta ahora se hablaban poco: la respuesta a incidentes clásica y la seguridad de la IA. Datos como claves de AWS o URLs de repositorios privados no deberían acabar en un prompt de entrada a un modelo de lenguaje general, y sin embargo ese es exactamente el uso que hacen miles de equipos al pegarle logs, configuraciones y credenciales a un chat para que los resuma. La mitigación sensata, aparte del on-premises, pasa por un plano de control de salidas: filtrar en el borde lo que sale hacia un endpoint de inferencia, impedir que las peticiones se enruten por revendedores desconocidos y auditar qué proveedor final está detrás de cada llamada. Eso, en redes, no es una función de IA: es una función de egress, con sus mismas reglas, sus mismas listas y sus mismos logs.
La lección incómoda es que la pregunta ya no es si tu proveedor de IA guarda tus prompts, sino cuántos intermediarios los ven antes y después. Y esa pregunta solo se responde leyendo la arquitectura, no la política de privacidad.
Referencia y documentación original: Ars Technica.