La diputada Lee Ju-hee del Partido Demócrata presenta enmienda a la Ley de Promoción del Uso de Redes de Información y Protección de Datos
Medidas clave incluyen advertencias sobre uso excesivo y restricciones de horarios de acceso
El Parlamento de Corea del Sur está estableciendo un marco de protección para menores ante servicios de inteligencia artificial conversacional. La iniciativa busca prevenir la adicción de adolescentes a chatbots de IA mediante verificación de edad de usuarios menores de edad y restricciones en los horarios de uso.
La diputada Lee Ju-hee del Partido Demócrata presentó el 1 de octubre una enmienda a la "Ley de Promoción del Uso de Redes de Información y Protección de Datos Personales" para proteger a usuarios menores de edad en servicios de IA conversacional.
El eje central de la enmienda es prevenir el uso excesivo de servicios de IA conversacional entre menores de edad. La propuesta incluye: △ verificación de edad e identidad del usuario, △ exhibición de advertencias sobre uso excesivo, △ registro del historial de tiempo de uso, △ provisión de herramientas para que menores o sus tutores legales soliciten restricciones en el método y horario de acceso.
La medida busca que los usuarios sean conscientes del tiempo que han pasado conversando con la IA, permitiendo que menores y sus tutores controlen el uso según sea necesario. Los proveedores de servicios deberán ofrecer mecanismos de protección. Sin embargo, a diferencia de sistemas pasados como el "sistema de bloqueo de videojuegos", el enfoque se centra en permitir que el usuario o su tutor legal gestione el método y horario de acceso según solicitud, en lugar de imponer restricciones automáticas y uniformes.
El impulso legislativo responde a la expansión de servicios de IA generativa, especialmente chatbots de IA que proporcionan interacción emocional con usuarios. Conforme aumentan servicios que van más allá de funciones de búsqueda de información o asistencia laboral, permitiendo conversaciones amistosas y construcción de relaciones, crece la preocupación sobre la adicción y dependencia emocional entre menores. Existe consenso en la necesidad de mecanismos que permitan a adolescentes comprender su patrón de uso y a tutores intervenir cuando sea apropiado.
Kim Na-jung, investigadora legislativa de la Sección de Investigación Sociocultural de la Oficina Legislativa del Parlamento, señaló en un informe publicado en julio titulado "Menores expuestos a riesgos de chatbots de IA" que "existen mecanismos de seguridad insuficientes para abordar riesgos estructurales de los chatbots de IA" y que "hay una brecha particular en el sistema de protección de menores de edad".
El tema de chatbots de IA también será abordado en las audiencias de control parlamentario. La Comisión de Ciencia, Tecnología, Información y Comunicaciones del Parlamento convocó como testigo para el 12 de octubre en la audiencia de control de la Comisión de Radiodifusión, Medios y Comunicación a Kim Jong-yoon, presidente y director ejecutivo de ScatterLab, con el propósito de examinar riesgos relacionados con chatbots de IA. ScatterLab opera la plataforma "Zeta", que permite a usuarios conversar con personajes de IA.
En esta audiencia, el Parlamento examinará riesgos de exposición a contenido nocivo en chatbots de IA y medidas de protección de menores. Se espera que cuestione al director sobre sistemas de gestión para prevenir uso excesivo entre menores y las medidas de respuesta correspondientes.
* Este artículo ha sido traducido por IA.