Antes, cuando se hablaba de servidores de IA, la primera reacción de muchas personas era pensar en las GPU.
Sin embargo, si se desmonta un servidor de IA, se descubre que la GPU es solo una parte. Lo que realmente sustenta el funcionamiento de los modelos de IA incluye también HBM, DDR5, NAND Flash, SSD, así como los controladores, sistemas de gestión de energía y chips de interfaz de alta velocidad asociados a estos tipos de memoria.
Al entrar en 2026, la demanda de almacenamiento impulsada por la IA ya no se limita únicamente al HBM. El HBM, la DDR5 y el NAND Flash están formando una nueva cadena industrial del almacenamiento para la IA.
Según SEMI, en 2026 la inversión global en dispositivos de almacenamiento en fábricas de obleas de 300 mm superará los 50 mil millones de dólares, siendo el HBM, la DDR5 y el 3D NAND los principales motores de crecimiento.
¿Por qué la IA necesita cada vez más chips de almacenamiento?
Una de las diferencias más grandes entre los modelos de IA y el software tradicional es la enorme cantidad de datos que deben procesarse y transferirse.
Tomemos como ejemplo los modelos de lenguaje de gran escala: los parámetros del modelo, los datos de entrenamiento, los resultados intermedios del cálculo y la caché generada durante el razonamiento requieren un intercambio rápido entre distintos niveles de memoria.
En términos simples, la arquitectura de almacenamiento de un servidor de IA puede entenderse aproximadamente como:
CPU → DDR5 → Acelerador de IA → HBM → SSD/NAND
Cada tipo de memoria tiene funciones diferentes:
Por lo tanto, la inteligencia artificial no se trata simplemente de «aumentar el número de GPUs».
De hecho, cuanto mayor sea la capacidad computacional de un servidor de IA, mayores serán los requisitos en cuanto a ancho de banda, capacidad y velocidad de almacenamiento de memoria.
HBM: la memoria clave detrás de los chips de IA
HBM es un almacén de datos de alta velocidad más cercano a la GPU. Una de las diferencias principales entre HBM y la memoria DDR tradicional es que utiliza tecnología de apilamiento 3D y interfaz de ancho ultrafino.
Varios die de DRAM se apilan verticalmente y luego se conectan al procesador de IA mediante encapsulación avanzada, logrando así un ancho de banda de memoria muy elevado en un espacio físico reducido. Esto es fundamental para el cálculo de IA, ya que durante el proceso de entrenamiento de modelos de IA, estos necesitan leer frecuentemente grandes volúmenes de parámetros. Si la velocidad de cálculo es rápida pero la memoria no puede proporcionar datos a tiempo, la GPU podría encontrarse en una situación de «esperar datos».
Por ello, el aumento de la capacidad de cálculo de la IA impulsa la demanda de ancho de banda de memoria, haciendo que la importancia de HBM crezca progresivamente.
Ejemplo: tomando como referencia las GPUs de IA para centros de datos de NVIDIA.
Los aceleradores de IA modernos de gama alta suelen incluir HBM cerca del chip, en lugar de utilizar únicamente memoria DDR tradicional como almacenamiento de alta velocidad.
La razón es sencilla:
Lo que necesitan las GPUs de IA es «alto ancho de banda», y no solo «gran capacidad». Por ejemplo, la NVIDIA H100 emplea HBM3, mientras que plataformas posteriores de GPUs de IA de gama alta adoptan tecnologías como HBM3E. Asimismo, los aceleradores de IA de la serie Instinct de AMD también utilizan tecnología HBM. Esto significa que, cuando aumenta la producción de GPUs de IA, no solo afecta al propio GPU.
También se ve afectado el die de DRAM relacionado con HBM, los TSV, los interposadores, el encapsulado avanzado, el sustrato, las conexiones de señal de alta velocidad, la gestión de energía y los sistemas de disipación térmica. Es por eso que, en los últimos años, HBM se ha convertido en la memoria clave detrás de los chips de IA.
Un caso típico de crecimiento de la demanda de HBM: SK hynix
SK hynix es actualmente uno de los principales proveedores en el mercado HBM. Sus productos HBM se dirigen principalmente al mercado de computación de alto rendimiento y aceleradores de inteligencia artificial. Desde la perspectiva de la cadena industrial, la principal diferencia entre HBM y la DRAM convencional no radica únicamente en una mayor capacidad. HBM exige estándares más elevados en todo el proceso de fabricación y encapsulado. La expansión de la capacidad de producción de HBM no consiste simplemente en añadir algunas máquinas de producción de DRAM, sino que implica también la fabricación de obleas, encapsulado, pruebas y gestión de la cadena de suministro. Por tanto, cuando la demanda de inteligencia artificial crece rápidamente, la oferta de HBM no puede ampliarse de forma rápida a corto plazo.
DDR5: el chip de almacenamiento fácilmente pasado por alto en los servidores de IA
Al hablar del almacenamiento para la inteligencia artificial, muchas personas solo prestan atención a HBM. Sin embargo, en realidad, DDR5 también es una parte fundamental de los servidores de IA.
HBM se encarga principalmente de los aceleradores de IA, mientras que DDR5 asume principalmente las tareas de memoria del sistema en el lado de la CPU del servidor.
Un servidor de IA normalmente no solo incluye una GPU o un acelerador de IA, sino que también requiere que la CPU realice las siguientes funciones:
-
- Sistema operativo
-
- Preprocesamiento de datos
-
- Gestión de datos
-
- Carga de modelos
-
- Tareas de red
-
- Gestión de almacenamiento
-
- Otras aplicaciones del servidor
Todas estas tareas requieren una gran cantidad de memoria del sistema.
Por lo tanto, puede entenderse simplemente como:
-
- HBM se encarga de "el cálculo rápido de IA"
-
- DDR5 se encarga de "el funcionamiento del sistema del servidor"
Ambos no son competidores, sino complementarios.
Ejemplo práctico: ¿por qué DDR5 aumenta junto con la IA?
Supongamos que un servidor utiliza una plataforma AMD EPYC o Intel Xeon.
La CPU está conectada a múltiples canales de memoria DDR5 y, al mismo tiempo, el servidor dispone de varios aceleradores de IA.
Entonces, el sistema podría tener la siguiente estructura:
CPU - DDR5 - PCIe / interconexión rápida - Acelerador de IA - HBM.
Al mismo tiempo, el servidor también necesita:
SSD empresarial → NAND Flash.
Es decir, un servidor de IA consume simultáneamente varias tecnologías de almacenamiento.
Por tanto, la IA está impulsando al mismo tiempo la demanda de HBM y de DDR5 en los servidores.
NAND Flash: otro mosaico en la era de la inteligencia artificial
Si HBM responde a la pregunta: «¿Cómo se lee rápidamente el dato durante el cálculo de IA?»,
entonces NAND Flash responde a: «¿Dónde se almacenan tantos datos?»
El entrenamiento de IA genera grandes volúmenes de datos, incluyendo:
-
Training Dataset
-
Model Checkpoint
-
Log Data
-
Vector Database
-
Inference Data
-
Backup Data
Estos datos finalmente necesitan almacenarse.
Por lo tanto, la demanda de SSD empresariales y NAND Flash en los centros de datos de inteligencia artificial también está creciendo.
Ejemplo: ¿Por qué Micron se enfoca simultáneamente en HBM y DDR5?
A diferencia de centrarse únicamente en un tipo de memoria, Micron está desarrollando estrategias simultáneas en:
-
HBM
-
DDR5
-
Server DRAM
-
NAND
-
SSD
Esto refleja en realidad un cambio importante en el mercado de almacenamiento para IA: la inteligencia artificial no necesita únicamente una sola memoria.
por ejemplo:
-
El acelerador de IA necesita HBM para resolver el problema del acceso rápido a datos.
-
La CPU del servidor requiere DDR5 para proporcionar memoria de sistema de gran capacidad.
-
El centro de datos de IA necesita SSD empresarial + NAND para almacenar grandes volúmenes de datos.
Por lo tanto, para los proveedores de chips de almacenamiento, las oportunidades que ofrece la IA abarcan toda la línea de productos, y no solo un modelo en particular.
Resumen
La inteligencia artificial está transformando por completo la arquitectura del hardware de servidores.
HBM podría ser actualmente la tecnología de almacenamiento más destacada, pero DDR5, NAND Flash y los SSD empresariales también son componentes indispensables en la infraestructura de IA.
Para la industria de componentes electrónicos, lo que realmente merece atención no es cuántas GPU se necesitan para la IA este año, sino:
la IA está redefiniendo toda la cadena de suministro de memoria y semiconductores.
Desde HBM hasta DDR5, pasando por NAND y SSD, la IA está conectando mercados de almacenamiento antes relativamente independientes.
Para los compradores de chips, proveedores de componentes electrónicos y fabricantes de dispositivos terminales, comprender esta arquitectura integral de almacenamiento será una base fundamental para planificar inventarios, seleccionar alternativas y gestionar la cadena de suministro en el futuro.