Hardware

NVIDIA Abre Su Orquestador GPU: Dos Pods Comparten Una Sola A10G En EKS

NVIDIA publicó Run:ai como código abierto el 13 de octubre de 2026; AWS desglosa su uso en Amazon EKS. Como técnico de redes y telecomunicaciones, lo que me interesa de esta noticia no es la IA, es la gestión de un recurso escaso.

NVIDIA Abre Su Orquestador GPU: Dos Pods Comparten Una Sola A10G En EKS

Compartir Una GPU Deja De Ser Un Arte De Magia

Durante años, la GPU ha sido el recurso más malgastado del centro de datos moderno. Un equipo pide una tarjeta entera para ejecutar un cuaderno de Jupyter, otro la pide para una evaluación de modelo de diez minutos y ambos se quedan esperando en la cola de Kubernetes aunque la memoria gráfica esté prácticamente vacía. NVIDIA anunció el 13 de octubre de 2026 la publicación como código abierto de NVIDIA Run:ai, y Amazon Web Services ha publicado un recorrido técnico que muestra qué cambia exactamente en Amazon EKS.

La clave de la nueva pieza, el GPU Fractioning Operator, no es repartir cómputo sino repartir memoria con contrato. Sobre un bus Kubernetes normal, el plugin de dispositivo de NVIDIA expone la GPU como un único recurso nvidia.com/gpu. Si dos Pods piden uno cada uno, el segundo no arranca nunca, aunque entre los dos consuman mucho menos de lo que la tarjeta ofrece. Fractioning añade planificación integrada, límites de memoria por Pod aplicados por el kernel del contenedor y métricas individuales.

En el ejemplo validado se usa una instancia EC2 g5.xlarge con una NVIDIA A10G Tensor Core. Esa GPU tiene 23.028 MiB de memoria. Cada Pod recibe un contrato de 8 GiB y reserva 6 GiB reales. El segundo Pod entra en el nodo, algo imposible en la línea base. Cuando un tercer despliegue intenta pedir 9 GiB, la asignación se rechaza, lo que demuestra que el límite no es una sugerencia sino una restricción efectiva.

Conviene entender dónde encaja esto frente a las alternativas que ya existían. MIG ofrece particiones en hardware, con aislamiento real, pero solo en determinadas tarjetas profesionales. El time-slicing del plugin de dispositivo comparte la GPU sin memoria replicada ni aislamiento de fallos. MPS permite procesos CUDA concurrentes, y su contención de errores depende por completo de cómo se configure. Fractioning se apoya en MPS y le suma la capa que faltaba: el límite de memoria obligatorio.

El artículo es honesto sobre las limitaciones, y ese detalle es el que más debería interesar a quien vaya a desplegarlo. Un límite de memoria no reserva cómputo proporcional, así que la densidad mejora pero no garantiza más rendimiento ni un ahorro universal. Las garantías de seguridad tampoco existen: los dominios de error son distintos según el modo elegido, pero NVIDIA y AWS dejan claro que no son una frontera de seguridad. Para entornos multiinquilino reales sigue siendo un compromiso, no un sustituto de MIG.

La implementación revela un detalle que suele arruinar este tipo de pruebas: la versión del driver. Al momento de la validación, la AMI optimizada para EKS con AL2023 traía las ramas de driver R580 y R595, mientras que el GPU Fractioning Operator v0.1.7 exige R615 o superior. Esa rama es de vida corta y no es la predeterminada del GPU Operator. Por eso el recorrido construye una imagen AL2023 a medida con Packer, con driver 615.71.10, NVIDIA Container Toolkit y containerd, ejecuta fractiond con integración NRI y MPS, y levanta metricsd para exportar métricas por Pod.

La topología también merece una nota. El plano de control de EKS corre en Kubernetes 1.36 dentro de una VPC gestionada por AWS, conectado a nodos en subredes privadas de la VPC del cliente. Un m7i.large aloja los controladores y KAI Scheduler, y un g5.xlarge con taint nvidia.com/gpu queda dedicado a cargas gráficas. Los resultados se validaron el 22 de octubre de 2026 y se repitieron el 18 de noviembre, con el mismo resultado. Todo el código del ejemplo está en el repositorio aws-samples.

Resumen

  • NVIDIA publicó Run:ai como código abierto el 13 de octubre de 2026; AWS desglosa su uso en Amazon EKS.
  • El GPU Fractioning Operator aplica contratos de memoria GPU por Pod sobre MPS, con planificación Kubernetes y métricas.
  • En una A10G de 23.028 MiB, dos Pods con contrato de 8 GiB y reserva de 6 GiB conviven; una petición de 9 GiB se rechaza.
  • Requiere driver R615 o superior, lo que obligó a crear una AMI AL2023 personalizada; la rama no es la predeterminada.
  • Un límite de memoria no garantiza cómputo proporcional ni aislamiento de fallos.
Opinión

Como técnico de redes y telecomunicaciones, lo que me interesa de esta noticia no es la IA, es la gestión de un recurso escaso. Una A10G es cara y, en un nodo Kubernetes corporativo, la estoy viendo infrautilizada mientras los equipos esperan turno. Que el límite de memoria se aplique de verdad y se pueda auditar por Pod cambia la conversación: ya no se trata de confiar en la buena voluntad de cada equipo.

El coste operativo, sin embargo, es real. Mantener una AMI personalizada porque el driver por defecto no llega a R615 es exactamente el tipo de deuda técnica que en redes nos pasa factura con los firmwares de los switches. Quien despliegue esto tiene que presupuestar la gestión del ciclo de vida del nodo, no solo la instalación.

Y hay una advertencia que trasladaría a cualquier arquitectura multiinquilino: densidad no es aislamiento. Si un cliente comparte tarjeta con otro, la separación de memoria no es un perímetro de seguridad. Para cargas de confianza y grupos fijos es una victoria clara; para todo lo demás, MIG sigue siendo la respuesta.

Fuente original

Esta entrada traduce y resume un artículo publicado originalmente en Amazon Web Services.

https://aws.amazon.com/blogs/machine-learning/using-nvidia-runai-gpu-fractioning-on-amazon-eks/