Razonar sobre series temporales sin gastar tokens de más
Amazon SageMaker JumpStart incorpora OpenTSLM, la familia open source de modelos de lenguaje para series temporales (TSLM) que está desarrollando Aionic Labs. Estos modelos combinan las mediciones operativas —desde datos de sensores de equipos hasta series de oferta y demanda— con contexto en texto como registros de mantenimiento, noticias de mercado u observaciones de un técnico. Con eso reconocen problemas emergentes en las mediciones recientes, y un experto puede hacer preguntas de seguimiento para entender qué cambió y cómo responder.
El problema que atacan es de coste, y es un problema muy real. Modelos generalistas como Claude o ChatGPT ayudan a analizar estos datos, pero procesar historiales largos de cientos de métricas operativas en forma de texto o imagen consume una enorme cantidad de tokens, lo que dispara el coste. El blog de AWS lo dice claro: recoger más datos no significa que los equipos puedan actuar sobre ellos.
El modelo disponible en JumpStart es OpenTSLM-Flamingo Gemma 3 4B. Combina el modelo de lenguaje Gemma 3 4B con un codificador temporal y capas de atención cruzada que permiten al modelo de lenguaje|attendance sobre la serie codificada. Tiene 5.240 millones de parámetros en total, almacenados en bfloat16, así que sus pesos ocupan unos 10,5 GB de memoria de GPU.
En la práctica, una aplicación prepara la serie numérica y el contexto de texto, invoca el endpoint de SageMaker y recibe la respuesta del modelo. Esa separación es deliberada: permite a la aplicación controlar la ventana de observación, seleccionar las señales relevantes y validar la respuesta antes de usarla. También hace que el modelo sea adaptable de forma independiente: un nuevo checkpoint se puede evaluar contra casos representativos antes de que la aplicación cambie a él.
En cuanto a despliegue, funciona sobre una sola GPU con al menos 24 GB de memoria y soporte bfloat16, y AWS recomienda 32 GB de memoria de host. El tipo de instancia por defecto es ml.g6.2xlarge, con una GPU NVIDIA L4 de 24 GB. También se admiten ml.g6.4xlarge, ml.g6.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6e.xlarge y ml.g6e.2xlarge, y conviene comprobar la cuota de uso de endpoints en la consola de cuotas del servicio. Para el ajuste fino, el blog incluye un tutorial que afina un checkpoint de Hugging Face con datos de ARFBench cargados a través de TimeNet, la infraestructura compartida de datos de series temporales que da a todos los modelos un mismo formato y API.
El caso de cliente que ilustra el blog es Nexthink, que está construyendo Spark, su agente personal de IT, potenciado con modelos de series temporales que conectan la telemetría de los dispositivos con los problemas que atraviesa a los empleados. El flujo combina series recientes del dispositivo —actividad de CPU, uso de memoria, espacio en disco disponible, estabilidad de las aplicaciones y conectividad— con eventos con marca de tiempo y contexto de equipo y software. Del modelo salen tres salidas: un resumen del estado que explica el problema probable y los patrones de señal que lo sostienen, una acción recomendada con las comprobaciones a hacer, y una sugerencia de escalado cuando el caso excede el ámbito del agente.
Amazon SageMaker JumpStart incorpora OpenTSLM, la familia open source de modelos de lenguaje para series temporales de Aionic Labs. El modelo, OpenTSLM-Flamingo Gemma 3 4B, combina Gemma 3 4B con un codificador temporal y atención cruzada: 5.240 millones de parámetros en bfloat16, unos 10,5 GB de memoria de GPU. Corre en una sola GPU de 24 GB (por defecto ml.g6.2xlarge con NVIDIA L4) y el endpoint queda en servicio en unos 6 minutos. Permite analizar telemetría e historiales largos con mucho menos coste en tokens que volcar los datos como texto a un LLM generalista. La aplicación controla la ventana de observación, elige las señales y valida la respuesta antes de usarla. Nexthink lo usa en su agente de IT Spark para proactive IT support.
Esto es de lo que más me gusta de la prensa actual sobre IA: no un modelo más grande, sino un modelo más pequeño y más adecuado. La lógica es aplastante. Si lo que quieres es que alguien detecte que una tendencia de telemetría se está degradando, no necesitas un modelo frontera con 200.000 tokens de contexto; necesitas algo que lea 5.240 millones de parámetros, lo meta en una GPU de 24 GB y te lo sirva rápido. El ahorro no es marginal: es la diferencia entre una telemetría que se analiza y una que se archiva.
Y hay una lectura de infraestructura bastante profunda aquí. El sentido de la tendencia es que la IA va a dejar de ser un servicio centralizado y empezar a ser una función distribuida. Cuando el modelo cabe en una L4, cabe en un nodo, y cuando cabe en un nodo puede vivir al lado de los datos. Eso cambia el tráfico radicalmente: en lugar de que el histórico de telemetría viaje desde el centro de datos hasta una GPU enorme en otra ciudad, el análisis ocurre donde están los datos. Para una red corporativa, eso es la diferencia entre un modelo centralizado con mucho tráfico Norte-Sur y miles de puntos de consumo, o una arquitectura de inferencia distribuida con tráfico local y mucho menos tránsito de área amplia. La segunda escala mejor y cuesta menos, siempre que la red que hay debajo esté preparada.
Lo que me genera dudas es el punto de validación. El blog insiste, con razón, en que la aplicación controla la ventana, selecciona señales y valida la respuesta antes de actuar, y en eso coincide con Nexthink: el modelo propone, el agente comprueba. Ahí está la clave de que esto funcione en un entorno real, porque una alerta de degradación sin contexto es ruido y una alerta sin validar es un falso positivo que entrena al equipo a ignorar el sistema. El riesgo no es que el modelo diga cosas raras, es que diga cosas plausibles y equivocadas con la confianza de quien ha visto 5.240 millones de parámetros. Solo el tiempo dirá si el enfoque de validación en la aplicación se mantiene a medida que los modelos mejoran. Mi apuesta es que sí, y que por eso las arquitecturas ganadoras van a ser las que reparten la confianza en la capa de aplicación, no las que confían ciegamente en el modelo.