Token Factory reduce el consumo de tokens en promedio un 25%
Servicio se lanzará el 30 de octubre con 500 modelos previstos para noviembre
KT avanza en la conquista del mercado de transformación digital de empresas (AX) con su plataforma "KT Token Factory" de suministro y facturación de modelos de inteligencia artificial. La estrategia de la compañía consiste en expandir su tradicional negocio de facturación basado en voz y datos hacia una nueva economía de tokens de IA, integrando la selección de modelos, gestión de uso y costos, así como procesamiento de pagos en una única solución.
El 27 de octubre, KT presentó públicamente Token Factory en una rueda de prensa celebrada en el edificio West del Gwanghwamun, Jongno-gu, Seúl. Token Factory es una plataforma que centraliza todo el proceso: desde la selección del modelo de IA, hasta el registro, verificación de uso, gestión de costos y realización de pagos.
Park Sang-won, Director de la División de Negocios AX de KT, afirmó: "En la actualidad, el tema crucial es cómo transformar la IA en un rendimiento real y valor tangible cuando se aplica en empresas, industrias y diversas operaciones". Y agregó: "Token Factory es la forma en que KT apoya la transformación digital de las empresas con base en confianza y eficiencia de costos".
Las funcionalidades principales de Token Factory se centran en la selección de modelos de IA y la reducción de costos. El "Auto Model Router" desarrollado internamente selecciona el modelo más apropiado analizando el tipo de pregunta, nivel de dificultad, calidad requerida y costo. El sistema aplica modelos ligeros para tareas simples y modelos de alto rendimiento para análisis complejos.
La plataforma también incorpora tecnología de compresión de indicaciones. Esta técnica elimina expresiones repetitivas innecesarias, manteniendo la claridad del significado y la calidad de las respuestas mientras reduce el volumen de tokens procesados. Kim Jun-seok, Director del Instituto de Tecnologías Futuras de AX de KT, explicó: "Con esta tecnología hemos reducido el procesamiento de tokens en un 25%. El 20% de la reducción proviene de eliminar contenido innecesario del indicador, y el 5% restante se logra mediante enrutamiento hacia el modelo más económico capaz de resolver el problema".
KT enfatizó su movimiento hacia convertirse en un proveedor de facturación por tokens. Lee Jin-hyung, Director de la División de Negocios AX de KT, declaró: "En el pasado, la unidad de facturación de las operadoras de telecomunicaciones era la voz, pero con la entrada en la era de la IA, está emergiendo una nueva economía de tokens". Y agregó: "A través de Token Factory, KT evolucionará hacia un proveedor que realiza facturación por tokens, liquidación de tráfico y enrutamiento".
El modelo de facturación adopta conceptos análogos al detalle de registros de llamadas en telecomunicaciones. Lee explicó: "Generamos Registro Detallado de Tokens (TDR), utilizando la misma técnica que el Registro Detallado de Llamadas (CDR) en telecomunicaciones, aplicando políticas de tarificación de tokens y facturación integrada".
En el lanzamiento inicial, habrá dos planes tarifarios: Standard y Enterprise. El plan Standard funciona con un modelo de pago por uso. El plan Enterprise se basa en acuerdos de volumen de uso y período, con liquidación mensual. Lee indicó: "El plan Enterprise no solo ofrece descuentos, sino que proporcionará un entorno personalizado a las empresas mediante líneas dedicadas. Calcularemos los costos de tokens y telecomunicaciones en una única facturación integrada para las empresas".
KT lanzará Token Factory el 30 de octubre. La plataforma contará con 73 modelos de IA incorporados, de los cuales 7 son modelos nacionales, incluyendo Upstage Sola. Lee informó: "Para noviembre, está previsto que 500 modelos de OpenRouter se incorporen a Token Factory". Y añadió: "Venderemos modelos de startups nacionales a nivel mundial".
* Este artículo ha sido traducido por IA.