Implementación de un sistema integral de gestión de riesgos en el ciclo completo de la inteligencia artificial
El Fondo de Garantía Tecnológica (FGT) anunció el 9 de noviembre una reestructuración integral de sus normativas internas relacionadas con inteligencia artificial y datos, con el objetivo de garantizar la confiabilidad y seguridad de los sistemas de IA.
Esta revisión normativa responde a la implementación de legislación relacionada con IA, incluida la "Ley Básica sobre el Desarrollo de la Inteligencia Artificial y la Construcción de una Confianza Basada", y busca reorganizar las disposiciones dispersas en criterios y directrices internas existentes en un único sistema de gestión vinculado a la estrategia de transformación digital por IA (AX).
El FGT ha procedido a una revisión completa de los "Estándares de Procedimiento de Trabajo para la Promoción de Negocios Basados en Inteligencia Artificial y Datos", así como el ajuste de métodos de procedimiento detallados, directrices éticas y operativas relacionadas. Asimismo, transformó su Comité de Innovación Digital en un Comité de Innovación de Inteligencia Artificial y designó a un vicepresidente ejecutivo como Oficial Jefe de Inteligencia Artificial (CAIO) para supervisar la estrategia AX y la gestión integral de riesgos de IA.
Antes del desarrollo, adopción e implementación de IA, la organización evaluará previamente si los sistemas califican como IA de alto impacto. Durante las fases de desarrollo e implementación, se realizarán evaluaciones de riesgos e impacto para gestionar sistemáticamente los posibles factores de riesgo.
Según los resultados de la evaluación de riesgos, los sistemas de IA se clasificarán en cuatro niveles: desde riesgo extremadamente alto hasta general, con autoridades de aprobación y períodos de reevaluación diferenciados según el nivel de riesgo.
El FGT también revisó sus criterios de ética en IA conforme a seis principios fundamentales: responsabilidad pública, equidad, transparencia, rendición de cuentas, seguridad y protección de la privacidad. Para usuarios de IA de alto impacto y servicios de IA generativa, se reforzaron los procedimientos de protección del usuario y garantía de transparencia, incluyendo notificación previa del funcionamiento del sistema de IA, suspensión inmediata de operaciones ante incidentes críticos y reportes obligatorios.
Desde su toma de posesión en julio, el presidente ejecutivo, Kwon Hyung-taek, ha enfatizado la importancia de la transformación por IA y transformación digital (AX y DX) para mejorar la conveniencia del cliente.
Kwon Hyung-taek, presidente ejecutivo del FGT, declaró: "Continuaremos expandiendo el uso de la inteligencia artificial sobre la base de una gestión de riesgos sistemática y operaciones responsables, cumpliendo nuestro rol como institución integral de apoyo a la innovación tecnológica que respalda el crecimiento innovador de las pequeñas y medianas empresas y empresas emergentes".
* Este artículo ha sido traducido por IA.
