SK Hynix apuesta por la memoria como eje central en la era de la IA agentica

Vicepresidente de SK Hynix: "Los problemas de rendimiento, potencia y costo convergen en la memoria"

Más allá de HBM: apilamiento 3D, PIM y CXL para eliminar cuellos de botella en movimiento de datos

• Vicepresidente de SK Hynix: "Los problemas de rendimiento, potencia y costo convergen en la memoria"

• Más allá de HBM: apilamiento 3D, PIM y CXL para eliminar cuellos de botella en movimiento de datos

Joo Young-pyo, vicepresidente de SK Hynix a cargo de Arquitectura de Sistemas, imparte una conferencia en el Foro Global para el Crecimiento Responsable y el Empleo de Calidad 2026 (GGGF) en su 18ª edición, celebrado el 2 de septiembre en The Plaza, Jung-gu, Seúl. [Fotografía de Yoo Dae-gil]

A medida que la inteligencia artificial evoluciona más allá de los chatbots hacia etapas de razonamiento y agentes autónomos, el cuello de botella en los sistemas de IA se está desplazando de los dispositivos de procesamiento hacia la memoria. SK Hynix diagnosticó que los desafíos fundamentales de rendimiento, eficiencia energética y utilización de recursos en los sistemas de IA se concentran cada vez más en la memoria. Más allá de HBM, la empresa considera que la "computación centrada en la memoria" —que reduce la distancia entre memoria y dispositivos de procesamiento, permitiendo que múltiples aceleradores compartan memoria— será el próximo campo de batalla para la expansión de la IA.

Joo Young-pyo, vicepresidente de SK Hynix a cargo de Arquitectura de Sistemas, afirmó en el Foro Global para el Crecimiento Responsable y el Empleo de Calidad 2026 (GGGF) celebrado el 2 de septiembre en The Plaza, Jung-gu, Seúl: "Parece que la memoria es ahora el problema". Agregó: "Los desafíos de rendimiento, eficiencia energética y optimización de recursos están todos condicionados por la memoria". Enfatizó: "Donde existe un cuello de botella es donde está el centro de la computación. El cuello de botella actual está en la memoria".

La demanda creciente de memoria se debe a la evolución de los servicios de IA. Mientras que los chatbots convencionales funcionan a la velocidad de interacción humana, los sistemas de IA agentica operan con inteligencias artificiales comunicándose entre sí, generando código, ejecutándolo, corrigiendo errores y reejecutando tareas. Joo explicó: "En conversaciones humanas basta con producir unos 20 tokens por segundo, pero si las máquinas conversan entre sí, necesitan entregar respuestas a velocidades de miles de tokens por segundo". Esto representa un aumento significativo en los requisitos de rendimiento del sistema.

SK Hynix ha identificado tres ejes para innovar en memoria en respuesta a estos cambios: rendimiento, eficiencia energética y utilización de recursos. Los puntos clave incluyen aumentar el ancho de banda de memoria en un área determinada y reducir la energía requerida para transferir cada bit de datos a dispositivos de procesamiento como GPU, NPU y TPU. También se busca mejorar la utilización del sistema para mantener las costosas GPU y memoria en operación constante.

HBM es un ejemplo destacado de esta transformación. Joo señaló: "Se podría decir que HBM ganó relevancia gracias a la popularidad de las GPU, pero también es cierto que fue la existencia de memoria como HBM la que permitió que las GPU lograran mejor rendimiento". Continuó explicando que en la era de la IA agentica, la industria se cuestiona si la combinación actual de HBM y GPU es suficiente.

Una de las soluciones propuestas es reducir la distancia entre memoria y dispositivos de procesamiento. Al apilar DRAM de manera tridimensional sobre o bajo el procesador se puede acortar la distancia de movimiento de datos. PIM (Procesamiento en Memoria), que realiza cálculos directamente dentro o cerca de la memoria, sigue la misma lógica. Joo afirmó: "Transferir datos desde la memoria hasta el dispositivo de procesamiento requiere mucha más energía que realizar la operación computacional en sí. A mayor distancia de transferencia, la eficiencia energética disminuye drásticamente". Sin embargo, señaló que el apilamiento 3D enfrenta desafíos técnicos como disipación térmica y reducción de espacio de almacenamiento.

También se propuso como solución CXL, que permite que múltiples aceleradores compartan memoria. Convencionalmente, una GPU debe esperar a que otra complete su trabajo antes de procesar; con memoria compartida, los datos se pueden dejar disponibles para que el siguiente dispositivo de procesamiento los recupere cuando sea necesario. SK Hynix está investigando cómo reducir desperdicios en los procesos de copia y sincronización de datos entre GPU. Joo explicó que aunque CXL no fue creado específicamente para IA, su naturaleza como interfaz de memoria abierta está expandiendo su adopción en sistemas de IA.

Sobre la teoría de que la optimización de algoritmos de IA reduciría la demanda de memoria, Joo estableció límites. Citó la "Paradoja de Jevons": aunque la eficiencia del combustible de los automóviles mejoró, el consumo total de petróleo aumentó. "Si los costos de los servicios de IA disminuyen, se utilizarán más servicios de IA", expresó. Esto significa que incluso si la optimización de algoritmos reduce el uso de memoria por servicio individual, el aumento en la demanda general de IA puede aumentar la demanda total de memoria.

Joo concluyó: "En el pasado, la CPU era el cuello de botella del sistema y mejorar la CPU mejoraba directamente el rendimiento del sistema. Actualmente, el cuello de botella está en la memoria". Agregó: "Mejorar el rendimiento y la eficiencia energética de la memoria hará que los sistemas de IA funcionen mucho mejor".

* Este artículo ha sido traducido por IA.