Brecha de seguridad en IA: el 97% de despachos parlamentarios utilizan herramientas de inteligencia artificial sin directrices de protección

  • 29 de 30 despachos parlamentarios utilizan inteligencia artificial

  • IA empleada en análisis de datos de control parlamentario y redacción de preguntas

  • Ausencia de sistemas de gestión para información sensible

  • Preocupación por filtración de secretos de defensa, información clasificada y datos confidenciales

Vista panorámica del Parlamento Nacional en Yeouido, Seúl. [Foto=reportero Yoo Dae-gil dbeorlf123@ajunews.com]
Vista panorámica del Parlamento Nacional en Yeouido, Seúl. [Foto=reportero Yoo Dae-gil dbeorlf123@ajunews.com]

El uso de inteligencia artificial generativa en actividades parlamentarias en Corea del Sur está aumentando, pero también crece la preocupación por la seguridad. Existe riesgo de que información personal sensible, datos confidenciales de gobiernos y empresas se filtren hacia el exterior durante el proceso de análisis de documentos necesarios para diversas actividades parlamentarias mediante IA. En particular, expertos advierten que la ausencia de directrices de seguridad específicas y sistemas de gestión a nivel parlamentario podría dejar información sensible expuesta sin protección alguna.

Según una investigación de Ajou Economics del 11 de noviembre en la que se entrevistó a 30 despachos de diputados de ambas coaliciones políticas, 29 de ellos utilizan inteligencia artificial generativa, con apenas uno que no la emplea. Las herramientas de IA más utilizadas son ChatGPT, Gemini y Claude, siendo seis los despachos que utilizan los tres servicios simultáneamente.

Los despachos parlamentarios emplean especialmente activo el uso de IA durante el período de control parlamentario, cuando se solicitan centenares o incluso miles de documentos a más de 840 organismos gubernamentales y públicos por cada despacho. Dado que el personal disponible es limitado y deben revisar una cantidad masiva de documentos para redactar preguntas, el uso de IA se ha vuelto cada vez más frecuente para reducir la carga laboral.

Un funcionario de un despacho de un diputado de la Comisión de Asuntos Legislativos y Judiciales, identificado como A, declaró: "Creemos que utilizamos IA en más del 50 por ciento durante el control parlamentario". Agregó: "Podemos reducir el tiempo de recopilación de documentos y, al redactar las preguntas, simplemente proporcionamos la información necesaria y solicitamos que se formulen preguntas adecuadas". Un funcionario de otro despacho de la Comisión de Asuntos Gubernamentales, identificado como B, señaló: "Aunque nadie lo menciona abiertamente, todos probablemente utilizan IA para procesar documentos. Dado que la Comisión de Asuntos Gubernamentales maneja muchos datos numéricos y gráficos, resulta útil para extraer información necesaria".

El problema radica en que los documentos ingresados en la IA pueden contener información personal de terceros indeterminados o datos confidenciales de gobiernos y empresas. Existe el riesgo de que la información ingresada sin intención sea almacenada en los servidores del operador del servicio o utilizada para mejorar modelos según las políticas del servicio.

Recientemente, el incidente de filtración de la lista de pasajeros del avión presidencial se atribuyó a que un funcionario subió un archivo a un sitio externo para verificar posibles malware. Este precedente subraya que información sensible puede filtrarse al utilizar servicios externos por conveniencia, lo que hace necesario que el Parlamento ejerza mayor vigilancia sobre su uso de IA.

Un funcionario de otro despacho parlamentario, identificado como C, expresó: "Honestamente, durante el período de control parlamentario, cuando el trabajo se acumula, a veces ingresamos información clasificada directamente en la IA. No es exageración decir que se está creando un entorno donde la IA puede identificar de antemano qué asuntos está revisando cada despacho, qué preguntas está preparando".

Existe particular preocupación de que documentos generados u obtenidos por comisiones permanentes que manejan información clasificada relacionada con la seguridad nacional, como la Comisión de Defensa y la Comisión de Inteligencia, así como asuntos sensibles de defensa industrial, sean ingresados en servicios de IA que utilizan servidores en el extranjero, lo que podría suponer una amenaza para la seguridad nacional. Un funcionario de otro despacho, identificado como D, señaló: "En las comisiones de Defensa e Inteligencia, en ocasiones solo se permite consultar documentos, pero no es imposible fotografiarlos e ingresarlos para que la IA los procese. Además, cuando se recibe información por denuncia, en lugar de documentos solicitados por el despacho, podría haber contenidos internos más sensibles siendo procesados por IA".

Varios funcionarios parlamentarios también advirtieron sobre la posibilidad de que secretos comerciales empresariales e información importante no divulgada sean ingresados en IA durante la preparación de controles parlamentarios o consultas sobre cuestiones actuales dirigidas a empresas.

A pesar de que información sensible manejada por el Parlamento está siendo ingresada en servicios de IA privados, se ha confirmado que el Parlamento carece de directrices propias de seguridad para el uso de IA o sistemas de gestión independientes. El Parlamento únicamente ha publicado en su tablero interno las "Directrices de seguridad para el uso de inteligencia artificial generativa" distribuidas en 2023 por la Agencia Nacional de Inteligencia a organismos públicos. Sin embargo, durante la investigación se constató que muchos despachos parlamentarios desconocen la existencia de estas directrices.

Además, se señala que la falta de mecanismos para garantizar el cumplimiento de las directrices reduce su efectividad. Oh Byung-il, director de la Red de Justicia Digital, enfatizó: "Existe el riesgo de que información clasificada o datos personales ingresados en IA se transmitan a empresas de IA. Para bloquear este riesgo, es necesario construir servidores independientes para almacenar los datos".





* Este artículo ha sido traducido por IA.