Comité Nacional de Estrategia de IA organiza seminario sobre 'moderación en desarrollo de IA'; presidente Lee Won-tae afirma que debe 'concretarse la teoría de responsabilidad de velocidad'
Director del Centro de Investigación de Seguridad en IA de la Universidad Soongsil, Choi Dae-seon, también subraya la necesidad de 'desarrollar modelos fronterizos y construir un sistema de seguridad para la IA'
Con el avance de la inteligencia artificial (IA) generando situaciones cada vez más frecuentes fuera del control humano, las grandes empresas tecnológicas globales están planteando una teoría de 'moderación en el desarrollo de IA'.
Mientras gobiernos de países como Estados Unidos y China han emitido posiciones al respecto, expertos sostienen que Corea del Sur debe impulsar una estrategia de 'dos vías' que no retrase el desarrollo de modelos fronterizos mientras diseña simultáneamente seguridad y protección para crear un ecosistema de IA verificado.
Lee Won-tae, presidente del Comité Especial de Seguridad, manifestó en un seminario sobre 'Moderación en el Desarrollo de IA' organizado por el Comité Nacional de Estrategia de Inteligencia Artificial el 1 de octubre que "mientras las empresas globales plantean cuestiones sobre 'moderación' y se adelanta la discusión a nivel estatal, Corea del Sur debe 'concretar la teoría de responsabilidad de velocidad'".
Mientras gobiernos de países como Estados Unidos y China han emitido posiciones al respecto, expertos sostienen que Corea del Sur debe impulsar una estrategia de 'dos vías' que no retrase el desarrollo de modelos fronterizos mientras diseña simultáneamente seguridad y protección para crear un ecosistema de IA verificado.
Lee Won-tae, presidente del Comité Especial de Seguridad, manifestó en un seminario sobre 'Moderación en el Desarrollo de IA' organizado por el Comité Nacional de Estrategia de Inteligencia Artificial el 1 de octubre que "mientras las empresas globales plantean cuestiones sobre 'moderación' y se adelanta la discusión a nivel estatal, Corea del Sur debe 'concretar la teoría de responsabilidad de velocidad'".
La teoría de responsabilidad de velocidad se fundamenta en la necesidad de construir simultáneamente tanto capacidades de competencia fronteriza como capacidades de control en seguridad y protección.
El mes anterior, Dario Amodei, director ejecutivo de Anthropic, mencionó la 'teoría de moderación en el desarrollo de IA'. Sin embargo, Lee interpretó que esto no significa detener el desarrollo de IA. Explicó: "No se trata de ralentizar el desarrollo de IA, sino de no dejar que la IA se descontrole sin supervisión".
Tras la mención de Amodei sobre moderación, tres grandes empresas tecnológicas globales lanzaron nuevos modelos. Lee señaló: "Es un juego dual: mencionan riesgos de IA mientras protegen su propio mercado", y enfatizó que "Corea del Sur no debe ralentizar el desarrollo de IA". En conclusión, Corea del Sur debe no retrasarse en el desarrollo de modelos fronterizos mientras asegura que se mantengan estándares de seguridad.
Además, Lee observó que la industria de IA actualmente se desarrolla en dos ejes. Un eje corresponde a Estados Unidos y China, que buscan asegurar la industria de IA a través de canales mínimos de comunicación, y el otro es un órgano multilateral que excluye a ambos países.
En este contexto, Lee argumentó que Corea del Sur debe diseñar su estrategia de IA a través de 'solidaridad funcional'. Afirmó: "No se trata de elegir un bando, sino de diseñar bien los denominadores comunes que ambos necesitan para liderar el debate internacional y presentar alternativas".
Agregó: "No debemos participar tardíamente después de que los estándares estén finalizados, sino desempeñar el papel de diseñador conjunto al establecer reglas bilaterales y conectar normas".
Choi Dae-seon, director del Centro de Investigación de Seguridad en IA de la Universidad Soongsil, enfatizó la necesidad de bases institucionales y técnicas para construir un sistema de seguridad para la IA mientras se continúa desarrollando modelos fronterizos.
Señaló: "Como no sabemos cuál es el nivel de riesgo causado por la IA, no podemos determinar el nivel de preparación y el alcance del enfoque, y cuando algo sale mal sin intención maliciosa, no podemos determinar el nivel de aislamiento", insistiendo en la necesidad de un sistema de respuesta.
Actualmente, Corea del Sur solo está validando modelos, pero debe construir un sistema capaz de evaluar soluciones completas, y deben reformarse las leyes para controlar posibilidades de mal uso, aconsejó.
Kim Sung-hoon, director ejecutivo de Upstage, analizó que la tendencia actual ha avanzado desde IA hacia la etapa de superinteligencia (SI) y está transitando hacia 'superinteligencia automejorable'.
En esta situación, enfatizó que la moderación de velocidad nacional podría ampliar la brecha con los grandes tecnológicos globales, por lo que es necesario desarrollar modelos que superen eso. Expresó: "Mientras Estados Unidos y China avanzan a toda velocidad, nuestro país también debe desarrollar tecnología para avanzar a SI 2", y agregó: "Después de eso, surge la necesidad de responsabilidad en la velocidad".
Para la responsabilidad de velocidad, indicó que deben publicarse el desempeño y las limitaciones a través de evaluaciones de terceros como benchmarks de la Academia Nacional de Inteligencia Artificial (NIA) y análisis de IA, realizar evaluaciones de seguridad nacional e instalar mecanismos de seguridad en ciclos de auto mejora.
Lee Han-wool, vicepresidente de AIM Intelligence, también enfatizó que Corea del Sur debe contar con un modelo fronterizo propio, mientras subrayaba la necesidad de establecer criterios de seguridad evaluables.
También sugirió determinar el alcance de divulgación del modelo y los destinatarios considerando los riesgos de mal uso de la IA, y revisar qué autoridades conferir a los agentes y cómo intervenir en caso de problemas. Explicó que también deben examinarse los factores que dificultan la utilización de tecnologías con seguridad verificada cuando las empresas adoptan IA para operaciones de seguridad.
* Este artículo ha sido traducido por IA.