OpenAI propone estándares globales de IA liderados por Estados Unidos y aborda seguridad en la ONU

  • "Estados Unidos posee la industria más avanzada en tecnología de IA y está en posición favorable"

  • Insta a Corea del Sur y otros 10 países a participar...también propone diálogo entre EE.UU. y China

  • El Consejo de Seguridad de la ONU agrega reunión de alto nivel sobre 'seguridad de la IA'

OpenAI [Foto=AP/Agencia EFE]
OpenAI [Foto=AP/Agencia EFE]

OpenAI, desarrolladora de ChatGPT, ha presentado un plan para establecer estándares técnicos globales sobre seguridad y protección en el desarrollo de inteligencia artificial de próxima generación, bajo liderazgo estadounidense. La propuesta surge en un contexto de creciente competencia geopolítica por la supremacía en IA entre Estados Unidos, China y otras potencias, con énfasis en que Washington debe asegurar el control sobre la gobernanza internacional de la tecnología.
En un extenso comunicado publicado en su blog el 21 de septiembre, OpenAI señaló que "para garantizar un desarrollo de la IA seguro y benéfico es necesaria una investigación avanzada sobre alineación —que asegure que la IA se ajuste a los valores y el control humano— junto con criterios comunes que múltiples empresas y países puedan aplicar al desarrollo de la IA". La compañía enfatizó que Estados Unidos debe encabezar los esfuerzos para establecer estos estándares tecnológicos globales en colaboración con otras naciones.
OpenAI argumentó que "Estados Unidos posee industrias en la vanguardia tecnológica de la IA y mantiene poderosas redes globales en sectores clave como finanzas, comercio, defensa, tecnología e información, lo que lo coloca en una posición ventajosa para liderar estos esfuerzos". Añadió que "en este momento, la decisión sobre si Estados Unidos asume el liderazgo determinará si el país dirige un sistema global de IA coherente o si simplemente observa la formación de un sistema fragmentado, desequilibrado y conflictivo".
La compañía subrayó además que "la competencia geopolítica trascenderá la simple cuestión de quién lidera tecnológicamente, convirtiéndose en una competencia sobre la adopción y expansión de la IA. El país que logre establecer cooperación internacional práctica y normas racionales será quien lidere la difusión de la IA, permitiendo que empresas y sociedades construyan su futuro sobre esta tecnología".
OpenAI instó a participantes de diversos países, incluyendo a Corea del Sur, a involucrarse en redes internacionales de investigación sobre seguridad de la IA para establecer estos estándares.
Antes de la cumbre prevista entre líderes estadounidenses y chinos, OpenAI también abordó la necesidad de cooperación bilateral. La compañía consideró positivo que Estados Unidos y China mantengan diálogos sobre seguridad de la IA y evaluó favorablemente que actualmente existan conversaciones relevantes entre ambas naciones sobre este tema.
La propuesta de OpenAI llega en un momento en que la industria de la IA vuelve a enfatizar cuestiones de seguridad. Su competidor Anthropic presentó la semana anterior su propio marco para el desarrollo seguro de modelos de IA de última generación, mientras que investigadores del sector advierten continuamente sobre los riesgos potenciales que la IA representa para la humanidad.
Por su parte, el presidente Donald Trump ha rechazado las propuestas de reducir la velocidad del desarrollo de IA, calificándolas de "fraude", manteniendo la posición de que Estados Unidos debe continuar acelerando su desarrollo de IA para mantener ventaja sobre China. El debate interno estadounidense sobre el equilibrio entre velocidad de desarrollo y seguridad se ha intensificado.
La IA se ha consolidado como un asunto prioritario en la agenda internacional. Durante la Asamblea General de la ONU que se desarrolla en Nueva York el 22 de septiembre, se espera que la seguridad de la IA y sus implicaciones para la seguridad internacional sean temas centrales en los debates.
Según la agencia AP, el Consejo de Seguridad de la ONU agregó una reunión de alto nivel para el 23 de septiembre por la tarde, enfocada en las amenazas que la IA representa para la seguridad y la paz mundial. Sam Altman, CEO de OpenAI, está programado para asistir a esa sesión del Consejo de Seguridad y presentar una exposición sobre IA y seguridad internacional.
La seguridad de la IA también figurará entre los temas principales de la cumbre entre líderes estadounidenses y chinos prevista para el 24 de septiembre. Particular atención se presta a si ambas naciones acordarán establecer una "línea directa" de comunicación directa para coordinar respuestas ante incidentes o crisis relacionados con la IA que amenacen la seguridad nacional de cualquiera de ellas.

 



* Este artículo ha sido traducido por IA.