KT logra el segundo lugar global en tecnología de enrutamiento de modelos de IA, demostrando competitividad de su plataforma Token Factory

Captura de pantalla del panel de clasificación de RouterArena, el banco de pruebas público especializado en enrutadores de modelos de lenguaje, donde KT-ModelRouter de KT alcanzó el segundo lugar según el criterio Acc-Cost Arena [Foto=KT]

KT anunció que su tecnología de enrutamiento de modelos de inteligencia artificial (IA) de desarrollo propio, denominada "AutoModelRouter", ha alcanzado el segundo lugar en la clasificación general del banco de pruebas público especializado en modelos de lenguaje extenso (LLM) conocido como "RouterArena".
RouterArena es una plataforma de evaluación de enrutadores de LLM desarrollada por investigadores de la Universidad de Rice en Estados Unidos. Utiliza aproximadamente 8.400 consultas para evaluar la precisión de respuesta de los enrutadores de IA, su eficiencia de costos y su robustez ante cambios en las entradas.
El "AutoModelRouter" que se presentó en esta ocasión figura en el panel de clasificación público bajo el nombre "KT-ModelRouter". Ha alcanzado el segundo lugar según el criterio "Acc-Cost Arena", que evalúa precisión y eficiencia de costos.
KT explicó que su AutoModelRouter ha sido diseñado para permitir a las empresas cumplir con los estándares de calidad que requieren mientras optimizan la eficiencia de costos. Por ejemplo, para tareas relativamente simples como traducción o verificación de información se utilizan modelos que cumplen con la calidad necesaria, mientras que para análisis especializados o tareas que requieren razonamiento de alto nivel se conectan modelos de alto rendimiento. Aunque los usuarios acceden a un único servicio de IA, en realidad el sistema utiliza diferentes modelos según las características de la solicitud.
Este AutoModelRouter se integra también en la función de enrutamiento de modelos de "Token Factory", iniciativa que KT está impulsando. A través de esto, KT pretende optimizar la calidad del servicio de IA y reducir los costos de uso de tokens.
KT planea continuar mejorando el AutoModelRouter y construir un entorno de operación multimodelo que permita agregar nuevos modelos de IA de manera flexible.
Kim Jun-seok, director de laboratorio de IA Agentic de KT con rango de vicepresidente ejecutivo, señaló: "En la era de la IA, no solo es importante contar con el mejor modelo singular, sino también utilizar de manera inteligente el modelo óptimo según cada situación. Este AutoModelRouter es una tecnología que implementa capacidades de orquestación de IA y será una tecnología clave que respalde la competitividad futura de los servicios de IA Agentic de KT".
Por otro lado, KT tiene previsto aplicar este mismo enfoque de enrutamiento de modelos al servicio "IA para Todos" del Gobierno, cuya versión beta será lanzada en octubre.




* Este artículo ha sido traducido por IA.