NeurIPS, una de las tres principales conferencias de IA a nivel mundial
LG Uplus anunció el 29 de octubre que dos documentos de investigación sobre optimización de tokens de inteligencia artificial han sido aceptados en el taller de Inteligencia en Dispositivos de 'NeurIPS 2026'.
NeurIPS se considera una de las tres principales conferencias de IA a nivel mundial, junto con ICML e ICLR. Es un evento académico donde empresas de tecnología global como Google, Meta y OpenAI, así como investigadores de las principales universidades del mundo, presentan los últimos avances en investigación de IA. El evento de este año se llevará a cabo en Sídney, Australia, del 6 al 12 de diciembre.
La competencia reciente en servicios de IA ha evolucionado más allá de los modelos para centrarse en 'cuán rápido y eficientemente se procesan los tokens'. Los tokens son unidades de datos que la IA utiliza para comprender preguntas y generar respuestas. Cuanto más rápido y eficientemente se procesen, mayor será la velocidad de respuesta y menor será el consumo de energía y recursos.
LG Uplus aplicó esta tecnología de optimización de tokens al entorno de teléfonos inteligentes, investigando métodos para ejecutar y entrenar eficientemente modelos de lenguaje pequeño (sLM) incluso con memoria y energía limitadas.
En primer lugar, desarrolló un modelo de lenguaje pequeño (sLM) para ser utilizado en servicios de telecomunicaciones y, aplicando técnicas de optimización de modelos y aceleración de inferencia, lo optimizó para el entorno de teléfonos inteligentes. Como resultado, mantuvo el rendimiento al nivel de la IA en la nube más reciente mientras aumentaba la velocidad de procesamiento aproximadamente 4.5 veces en comparación con el método anterior y redujo el consumo de batería en aproximadamente un 77%. Lo distintivo es que la empresa logró utilizar eficientemente los recursos computacionales limitados y la batería del teléfono inteligente mientras minimizaba la degradación del rendimiento.
También investigó la tecnología de entrenar IA directamente en el teléfono inteligente sin enviar datos personales hacia el exterior. Optimizó el cálculo y el uso de memoria necesarios para el entrenamiento de IA y realizó el proceso de aprendizaje adicional dentro del dispositivo móvil. Tras verificar el rendimiento en un entorno de teléfono inteligente real, demostró una precisión equivalente a la del entrenamiento en servidor sin necesidad de enviar datos personales fuera del dispositivo.
LG Uplus está considerando cómo aplicar la tecnología asegurada en esta investigación a diversos servicios de IA de la empresa. Concretamente, planea expandir la capacidad de optimización verificada en teléfonos inteligentes hacia entornos de unidades de procesamiento gráfico (GPU) de servidor para permitir que los clientes utilicen la IA de manera más rápida y conveniente.
Sang-yeop Lee, CTO de LG Uplus, declaró: "La aceptación de este documento en NeurIPS reconoce nuestros logros de investigación en la ejecución y el entrenamiento rápido y eficiente de IA incluso en entornos limitados. Continuaremos expandiendo nuestro alcance de investigación hacia entornos de servidor en el futuro".
* Este artículo ha sido traducido por IA.