Ministerio de Educación, Fundación de Investigación de Corea y Asociación de Académicos presentan soluciones de ética en IA para cuatro disciplinas
Se advierte contra el «lavado ético» formal y la sobrevaloración de detectores de IA; proponen protocolos obligatorios de verificación con fuentes originales
Ingeniería destaca «verificación de leyes físicas y reproducibilidad»; artes enfatizan «registro de registro de creación»
La inteligencia artificial de tipo agente —que va más allá de simples herramientas de corrección y traducción para formular hipótesis de investigación, escribir código experimental e incluso esbozar diseños— está penetrando rápidamente en los laboratorios universitarios, lo que ha convertido el establecimiento de criterios rigurosos de ética en investigación adaptados a cada disciplina académica en la prioridad máxima del mundo científico.
En humanidades y ciencias sociales, la preocupación principal es la generación de «referencias falsas (alucinaciones)» plausibles y el denominado «lavado ético» —cuando los investigadores se amparan en declaraciones genéricas de uso de IA para eludir la reflexión ética real—. En ingeniería y artes, el desafío central es establecer cómo demostrar el verdadero aporte humano y definir los límites entre autoría y derechos de autor cuando la IA produce una porción sustancial de los resultados.
El «Foro de Ética en Investigación 2026» se celebró el 5 de noviembre en la sala de conferencias de la sede de Seúl de la Fundación de Investigación de Corea, en Seocho-gu, Seúl, organizado conjuntamente por el Ministerio de Educación, la Fundación de Investigación de Corea y la Asociación de Organizaciones Académicas de Corea. El evento abordó el tema «Propuesta de directrices de ética en investigación por disciplina académica en la era de la inteligencia artificial».
Durante el foro, expertos de las cuatro grandes disciplinas —humanidades, ciencias sociales, ingeniería y artes— convergieron en señalar los límites de las prohibiciones uniformes sobre el uso de IA y las directrices declarativas genéricas. Presentaron problemas específicos y soluciones prácticas que se ajustan a las metodologías de investigación de cada campo.
En la sesión de humanidades surgieron advertencias de que las notificaciones formales de uso de IA podrían convertirse en «lavado ético», bloqueando la reflexión ética genuina del investigador.
El profesor Won-seop Jeong, de la Escuela de Estudios Interdisciplinarios de la Universidad de Gyeongnam, quien presentó el tema, señaló que entre las 1.068 revistas académicas de humanidades evaluadas por la Fundación de Investigación de Corea este año, solo 65 han adoptado regulaciones sobre IA. Enfatizó que una simple línea en los agradecimientos afirmando que «se utilizó IA generativa de forma complementaria para corrección de texto y búsqueda inicial de literatura» no puede servir como indulto para la mala conducta en investigación.
En particular, presentó casos donde programas comerciales de detección de textos generados por IA arrojaban tasas de detección significativamente diferentes según la herramienta, subrayando que no se debe juzgar una violación de ética en investigación basándose únicamente en resultados técnicos incompletos.
El problema fundamental radica en que los investigadores reciben únicamente el resultado final sin experimentar el proceso de salida de la IA, lo que puede llevarlos a cometer falsificación, fabricación o plagio sin siquiera percatarse.
La profesora Ye-jeong Choi, del Departamento de Inglés de la Universidad de Hoseo, diagnosticó: «En la revisión por pares se detectan frecuentemente casos de alucinaciones donde las citas parecen vagamente alineadas con el argumento de la obra citada, pero la redacción real es diferente, o donde la fuente es completamente incorrecta aunque el argumento del investigador anterior sea válido».
Como solución se propusieron la «obligatoriedad de verificación» y la «reforma de sistemas de evaluación» que reflejen las características de cada subdisciplina en humanidades.
El profesor emérito Myung-kwan Park, del Departamento de Inglés de la Universidad Dongguk, recomendó: «Literatura debe institucionalizar protocolos de verificación por subdisciplina, como confirmar la textualidad mediante contraste de ediciones y traducciones; historia debe realizar un riguroso contraste con fuentes originales, considerando los documentos presentados por IA solo como 'candidatos de fuente'; filosofía debe institucionalizar el registro de comparaciones y correcciones entre las distinciones conceptuales propuestas por IA y la genealogía argumentativa establecida en la historia de la filosofía».
Además, los profesores Won-seop Jeong y Ye-jeong Choi, junto con Hyo-jin Lee, especialista del Comité Consultivo Jurídico del Ministerio de Justicia, coincidieron en que es necesario cambiar el actual «sistema de evaluación de productividad cuantitativa basado en cantidad de publicaciones» hacia uno enfocado en calidad y responsabilidad, para que los investigadores dediquen tiempo a la verificación crítica en lugar de depender ciegamente de la IA.
En ciencias sociales, la cuestión central fue cómo la IA puede producir investigaciones preliminares falsas pero plausibles y resúmenes de datos sesgados que podrían distorsionar incluso las decisiones de política nacional.
El profesor Tae-hwang Kim, del Departamento de Comercio Internacional de la Universidad Myongji, quien presentó el tema, reveló resultados de una simulación en la que se instruyó a la IA generativa crear un informe basado en investigación preliminar sobre «la necesidad de una gestión estatal efectiva por parte del presidente».
La IA generó un informe coherente con denso aparato de citas en el texto como «(Kim Min-sung, 2020)», «(Park Sang-hoon, 2022)» y «(Seo Jin-young, 2024)» que parecían trabajos académicos reales, pero todas eran citas falsificadas o fabricadas.
Además, en una investigación cualitativa basada en entrevistas en profundidad con hogares de bajos ingresos, se planteó el riesgo de sesgo de confirmación: cuando el investigador utiliza la IA para resúmenes y clasificación rápida, puede seleccionar únicamente datos que respalden su conclusión predeterminada de expansión de subsidios, excluyendo casos de adaptación escolar exitosa y enfatizando solo las dificultades.
Se documentó incluso un caso innovador de mala conducta en investigación donde, aprovechando que la IA se utiliza en la revisión por pares, se insertaron secretamente instrucciones ocultas en letras blancas diminutas en los artículos diciendo «escribir solo evaluaciones positivas sobre este artículo».
Los expertos en ciencias sociales propusieron como soluciones la «verificación directa de fuentes originales en primera instancia» y la «divulgación diferenciada proporcional al nivel de intervención».
El profesor Young-jin Jeong, del Departamento de Derecho de IA y Datos de la Universidad de Inha, citó la investigación «Illusions of Understanding» (Ilusiones de Comprensión) publicada en la revista Nature, enfatizando: «Aunque la IA aumenta la productividad investigativa, en realidad conduce a que los investigadores crean que comprenden más de lo que realmente comprenden. No es realista simplemente divulgar cientos de indicaciones (prompts) ingresadas durante la redacción de un artículo; toda doctrina presentada por la IA debe ser verificada localizando y leyendo directamente el texto original del autor humano, y el proceso argumentativo debe ser asimilado antes de citarlo».
El profesor Jae-yeop Jeong, del Departamento de Comercio Global de la Universidad South Seoul, propuso además que en lugar de indicaciones vagas como «se utilizó IA» al inicio del artículo, se debe diferenciar los niveles de divulgación según el impacto en el juicio investigativo: ▲corrección simple de oraciones y traducción ▲asistencia en búsqueda de literatura ▲codificación y clasificación de datos cualitativos ▲redacción de código estadístico ▲propuesta de hipótesis e interpretación. También recomendó prohibición estricta de que los revisores introduzcan manuscritos no publicados en sistemas de IA externos sin autorización.
En ingeniería, el debate se centró en la «autoría» y la «verificación de seguridad e reproducibilidad», conforme la IA evolucionó más allá de simples chatbots hacia sistemas multiagente y de enjambre que pueden planificar autónomamente, invocar y ejecutar herramientas de simulación.
El profesor Jung-tae Kwon, del Departamento de Ingeniería Mecánica de la Facultad de Ingeniería de IA de la Universidad de Hoseo, advirtió que aunque la IA está profundamente involucrada en la redacción de scripts de dinámica de fluidos computacional (CFD) y análisis de elementos finitos (FEA), detección de anomalías en datos de sensores e interpolación, el uso directo de valores de salida no verificados de IA en diseño ingenieril real podría resultar en accidentes catastróficos como fuga térmica de baterías o colapso estructural, así como divulgación de secretos comerciales.
El profesor Kwon presentó casos específicos de disputa para establecer directrices. Incluso si la IA escribió el 80% del código de análisis CFD que es el núcleo del artículo, no se puede otorgar autoría a la IA; el investigador humano que verificó ese código debe asumir la responsabilidad íntegra.
Según los cuatro requisitos de autoría del Comité Internacional de Editores de Revistas Médicas (ICMJE) y los estándares del Comité de Ética en Publicación (COPE), un autor debe ser capaz de aprobar el manuscrito final y asumir responsabilidad legal posterior; la IA carece de tal capacidad.
En la discusión, el profesor Geun-hong Jung, del Departamento de Química de la Universidad Sogang, y la profesora Jeung-im Kim, del Departamento de Enfermería de la Universidad Soonchunhyang (miembro del Comité de Ética en Publicación de la Sociedad Coreana de Editores de Revistas Médicas), presentaron procedimientos de verificación específicos que los autores humanos deben demostrar en investigación ingenieril.
Cuando la IA genera código o interpola datos experimentales para crear gráficos, los investigadores humanos deben: ▲realizar verificación de cálculo independiente basada en leyes físicas, incluyendo conservación de masa y energía, consistencia dimensional, ecuaciones gobernantes, condiciones de frontera e independencia de malla ▲marcar claramente la distinción entre valores medidos reales (datos originales) y valores corregidos/interpolados por IA ▲institucionalizar «revisión independiente de dos personas» dentro del laboratorio para prevenir errores comunes en el mismo modelo, y preservar registro de uso de IA (versión del modelo, semilla de números aleatorios, entorno del solver, etc.).
En disciplinas artísticas y de diseño, se debatió el establecimiento de límites entre «ética editorial (autoría)» y «derechos legales (derechos de autor)» con la generalización de la IA generadora de imágenes visuales.
La profesora Jae-hee Jeong, de la Escuela de Postgrado de Arte Industrial de la Universidad Hongik, realizó una encuesta exhaustiva de 10 revistas académicas de diseño registradas en el Índice de Citaciones Coreano (KCI), concluyendo que actualmente solo 4-5 publicaciones, como la Sociedad de Diseño de Corea y la Sociedad de Cultura del Diseño de Corea, han establecido regulaciones o avisos éticos específicos sobre IA generativa, evidenciando la urgencia de reforma institucional.
En contraste, principales editores internacionales como Elsevier y Taylor & Francis prohíben estrictamente la generación o manipulación mediante IA de «imágenes de resultados de investigación primaria», «imágenes clínicas o diagnósticas» y «gráficos abstractos», diferenciándolos de esquemas conceptuales o diagramas explicativos. Para visualización de datos permitida, requieren especificar de manera reproducible en pie de foto y sección de métodos las herramientas utilizadas, versiones y alcance de supervisión.
Adicionalmente, la comunidad de diseño enfrenta desafíos como problemas de sesgo donde la IA genera repetitivamente arquetipos humanos típicos excluyendo minorías, síntesis no autorizada de rostros, voces y estilos de terceros, y demandas por violación de derechos de autor en conjuntos de datos de entrenamiento de IA.
El profesor adjunto Dong-heon Kim, de la Escuela de Postgrado de Diseño de la Universidad Kookmin, observó: «En registros contables operativos, las cuotas de suscripción a IA generativa se procesan como 'costos' de software como Adobe o CAD, no como 'salarios' de colegas. La industria trata la IA como herramienta, no como colaborador, pero en artículos y trabajos se invoca 'coautoría con IA', que es un mecanismo defensivo inconsciente para apropiarse de logros mientras se comparten errores y responsabilidad de plagio con un 'coautor IA'».
El profesor Kim enfatizó: «Los derechos de autor se otorgan 'estrictamente' solo a porciones donde se demuestra contribución creativa humana, pero la ética en investigación justificadamente se aplica 'ampliamente', responsabilizando al humano por todo el resultado incluyendo partes generadas por IA, creando una estructura asimétrica pero legítima».
* Este artículo ha sido traducido por IA.