Los agentes de IA aumentan el consumo de energía hasta 140 veces y la latencia 5,2 veces
Es necesario transformar el ecosistema de IA coreano abandonando estructuras de inferencia costosas
Yoo Min-su, director de investigación de A2C Systems (profesor honorario del KAIST), pronuncia una conferencia magistral el 2 de septiembre en el Hotel The Plaza de Seúl durante la 18ª edición del Foro sobre Crecimiento Responsable y Empleo de Calidad (2026 GGGF). [Foto: reportero Yu Dae-gil]
"Para superar los límites de energía y memoria en la era de los agentes de inteligencia artificial y competir con Estados Unidos y China, Corea del Sur debe cambiar hacia una estrategia de IA coreana centrada en el refinamiento y la optimización, no simplemente en la inversión en capacidad computacional."
Yoo Min-su, director de investigación de A2C Systems (CRO, profesor honorario del KAIST), enfatizó esto el 2 de septiembre durante la 18ª edición del Foro sobre Crecimiento Responsable y Empleo de Calidad (2026 GGGF), celebrado por Ajou Economics Daily en el Hotel The Plaza de Seúl.
Yoo, exdirectivo de NVIDIA y especialista en arquitectura de sistemas informáticos y unidades de procesamiento gráfico (GPU), fundó recientemente la startup de infraestructura de IA A2C Systems. En su intervención de hoy sobre "IA coreana: competencia mediante refinamiento y optimización", presentó resultados de investigación cuantitativos sobre las sobrecargas sistémicas y crisis energética que surgirán en la transición de chatbots conversacionales convencionales a agentes de IA autónomos.
Yoo señaló que "aunque empresas tecnológicas globales como OpenAI con su proyecto 'Stargate' y Meta con 'Hyperion' están construyendo centros de datos de IA a escala de decenas de gigavatios, los marcos de infraestructura actuales y la red eléctrica presentan límites claros de sostenibilidad".
Según el análisis realizado por el equipo de investigación de Yoo sobre algoritmos de agentes de IA, el tiempo de latencia en la respuesta de los agentes de IA se incrementa en promedio más de 5,2 veces en comparación con sistemas de chatbots basados en modelos de lenguaje grande (LLM) convencionales que simplemente generan texto. Mientras que los LLM existentes producen conclusiones inmediatamente después de recibir entrada, los agentes de IA se comunican con herramientas externas como navegadores web y repiten indefinidamente procesos de pensamiento y acción autónoma hasta alcanzar el objetivo.
Yoo explicó que "como los agentes de IA almacenan continuamente en memoria el historial de conversaciones anteriores y resultados de búsqueda para no olvidar, el espacio de almacenamiento (caché KV) se llena rápidamente. Esto causa que los supuestos de diseño de memoria de los centros de datos existentes se desmoronen, ralentizando drásticamente la velocidad de procesamiento y agravando la escasez de memoria".
El consumo de energía aumentó aún más cuando se utilizó tecnología de escalado en tiempo de prueba, donde la IA delibera durante más tiempo y repite cálculos para elevar la precisión. Yoo enfatizó que "el consumo de energía y potencia de GPU para procesar una única consulta de agente se incrementa hasta 136,5 a 140 veces en comparación con chatbots convencionales simplificados".
El equipo de investigación de Yoo estimó la demanda de energía del centro de datos necesaria cuando los agentes de IA se expandan al nivel de tráfico de búsqueda de Google (aproximadamente 13.700 millones de consultas diarias). La demanda de energía requerida alcanzaría máximo 198,9 GW (aproximadamente 200 GW), una cifra que roza la mitad de la capacidad total de la red eléctrica estadounidense (aproximadamente 476,9 GW).
Yoo señaló que "hemos alcanzado una etapa donde la escasez de suministro eléctrico y terreno comercial disponible para instalar centros de datos ha superado la simple adquisición de GPU. El enfoque computacional indiscriminado de invertir recursos sin límite ha llegado a un límite claro en términos de eficiencia de costos y economía de escala".
Yoo propuso una "estrategia de IA coreana centrada en refinamiento y optimización" como solución para superar las brechas de capital e infraestructura en la competencia por hegemonía entre Estados Unidos y China. Expresó que "el método de invertir indiscriminadamente recursos computacionales para mejorar el rendimiento genera un fenómeno de 'degradación de costos unitarios' donde la mejora de precisión relativa a la inversión disminuye", y enfatizó que "la optimización de sistemas especializada en cargas de trabajo de IA y la tecnología de optimización de software son armas poderosas para Corea del Sur. Por lo tanto, debemos concentrar el esfuerzo nacional en la innovación tecnológica que lleve la eficiencia de infraestructura a sus límites máximos".
* Este artículo ha sido traducido por IA.