- El GPU Operator automatiza la gestión de drivers, toolkits y plugins necesarios para habilitar la aceleración por hardware en Kubernetes.
- El Time-Slicing permite que múltiples pods compartan una misma GPU mediante el entrelazado de tareas, optimizando costes y recursos.
- Existen diferencias críticas entre el reparto por tiempo y el Multi-Instance GPU (MIG) en cuanto a aislamiento de memoria y fallos.
Llevar la inteligencia artificial a producción en Kubernetes es el sueño de cualquier equipo de infraestructura, pero hay un problema gordo: las GPUs son prohibitivamente caras. Montar un cluster con varias H100 puede costar una fortuna, lo que hace que muchas empresas se lo piensen dos veces antes de escalar sus modelos de lenguaje o procesos de entrenamiento.
Para solucionar este cuello de botella, NVIDIA ha desarrollado el GPU Operator, una herramienta que simplifica la gestión del hardware y permite que los recursos no se desperdicien. Gracias a técnicas de compartición, ya no hace falta asignar una tarjeta entera a un solo pod, permitiendo que varios procesos convivan en el mismo chip y bajando así los costes operativos drásticamente.
¿Qué es exactamente el NVIDIA GPU Operator?

En esencia, es un controlador de Kubernetes que se encarga de que todo el software necesario para que la GPU funcione esté en su sitio. Imagínatelo como un director de orquesta que instala los drivers de NVIDIA, el Container Toolkit y el Device Plugin sin que tú tengas que pelearte con las imágenes de la máquina virtual o el sistema operativo base.
Este operador abstrae la plataforma, por lo que da igual si estás en AWS, en servidores bare-metal en tu propio centro de datos o en el edge. Se encarga de detectar automáticamente las GPUs mediante el componente GFD (GPU Feature Discovery) y etiqueta los nodos para que el programador de Kubernetes sepa exactamente dónde puede ejecutar las cargas de trabajo gráficas.
Estrategias para compartir la GPU: Time-Slicing vs MIG

Cuando hablamos de compartir una GPU, no todas las opciones son iguales. La más accesible es el GPU Time-Slicing, que básicamente permite que varias tareas se turnen el uso del procesador. Es ideal para GPUs antiguas que no soportan tecnologías más modernas o para cargas de trabajo que no son críticas en cuanto a latencia.
Por otro lado, tenemos el Multi-Instance GPU (MIG). A diferencia del reparto por tiempo, el MIG divide la GPU físicamente en instancias más pequeñas. Esto es una pasada porque ofrece aislamiento real de memoria y fallos; si una instancia peta, las demás siguen funcionando como si nada. Eso sí, solo está disponible en las arquitecturas más recientes, como las familias Ampere y Hopper.
Pasos para implementar el reparto por tiempo (Time-Slicing)

Para poner en marcha el Time-Slicing, lo primero es definir cuántas réplicas queremos que Kubernetes vea de cada GPU. Esto se hace creando un ConfigMap en el espacio de nombres donde reside el operador. Por ejemplo, si configuras 4 réplicas, un nodo con una sola GPU física parecerá que tiene cuatro GPUs disponibles para los pods.
Una vez creado el ConfigMap, hay que actualizar la ClusterPolicy para que el Device Plugin sepa que debe usar esa configuración. Si quieres ser más preciso, puedes aplicar etiquetas específicas a ciertos nodos para que solo algunas máquinas (por ejemplo, las que tengan Tesla T4) utilicen el reparto por tiempo, dejando el resto con acceso exclusivo.
Un detalle importante es que el Operador no vigila los cambios en el ConfigMap en tiempo real. Si decides cambiar el número de réplicas, tendrás que reiniciar manualmente los pods del Device Plugin para que la nueva configuración surta efecto, aunque los procesos que ya estén corriendo no se verán afectados.
Componentes clave del ecosistema NVIDIA
Para que todo esto ruede, el operador despliega varios componentes que trabajan en cadena. El NVIDIA Driver es el primero y carga los módulos en el kernel del host. Luego entra el Container Toolkit, que permite que los contenedores se comuniquen con el hardware, y finalmente el Device Plugin, que expone la GPU como un recurso programable en la API de Kubernetes.
Para los que necesitan control total, el DCGM Exporter es fundamental. Esta herramienta extrae métricas de temperatura, uso de memoria y consumo eléctrico, que luego puedes visualizar en cuadros de mando de Grafana para saber si estás estresando demasiado el hardware o si tienes capacidad de sobra para meter más pods.
Consideraciones operativas y errores comunes
No todo es instalar y listo; hay que tener cuidado con la compatibilidad. Un error típico es intentar usar un driver que no encaja con la versión del kernel de Linux o la versión de CUDA que requiere tu aplicación de PyTorch. Siempre es recomendable consultar la matriz de compatibilidad de NVIDIA antes de lanzar una actualización en producción.
Además, hay que gestionar los permisos. Muchos de estos componentes necesitan contenedores privilegiados para poder interactuar con el núcleo del sistema y cargar módulos. En entornos muy restringidos o air-gapped, es vital configurar correctamente los espejos de imágenes para que el operador pueda descargar los drivers sin problemas.
La gestión de la capacidad del cluster es la clave del éxito. Al habilitar la compartición, el número de pods que pueden usar la GPU aumenta, por lo que es inteligente establecer cuotas de recursos para evitar que un solo usuario acapare todo el tiempo de cómputo y deje a los demás colgados.
La combinación del GPU Operator con el reparto por tiempo permite democratizar el acceso al hardware de aceleración, transformando costosas tarjetas gráficas en recursos elásticos y eficientes que pueden servir a decenas de aplicaciones simultáneamente sin complicaciones técnicas mayores.
Preguntas frecuentes
¿Cuál es la diferencia principal entre el Time-Slicing y el MIG?
El Time-Slicing alterna el uso de la GPU entre pods sin aislamiento de memoria, mientras que el MIG crea particiones físicas independientes con memoria y fallos aislados.
¿Puedo usar el reparto por tiempo en cualquier GPU de NVIDIA?
Sí, el Time-Slicing se implementa a nivel de CUDA y es compatible con todas las GPUs de NVIDIA, a diferencia del MIG que requiere hardware específico.
¿Qué pasa si modifico el ConfigMap del Time-Slicing mientras el cluster funciona?
Los cambios no se aplican automáticamente porque el operador no monitoriza el ConfigMap, por lo que es necesario reiniciar los pods del Device Plugin.
¿Cómo sé si el GPU Operator ha instalado correctamente los componentes?
Se puede verificar revisando que la ClusterPolicy esté en estado ready y comprobando que los nodos anuncien la capacidad de nvidia.com/gpu esperada.
¿Es posible combinar MIG y Time-Slicing en la misma máquina?
Sí, es posible aplicar el reparto por tiempo sobre las instancias creadas previamente mediante MIG para aumentar aún más la densidad de pods.
¿Qué herramienta se usa para monitorizar el estado de las GPUs compartidas?
Se utiliza el DCGM Exporter, que recopila telemetría sobre el uso, la temperatura y la memoria para exponerla a Prometheus y Grafana.