OpenAI considera reducir la velocidad de desarrollo de modelos de IA avanzados en coordinación con otras empresas

  • Según reportaje de Bloomberg

  • Sam Altman lo menciona en reunión empresarial de esta semana

Sam Altman, director ejecutivo de OpenAI, interviene en la reunión de ministros de Finanzas y gobernadores de bancos centrales del G20 celebrada el 2 de septiembre en Carolina del Norte, Estados Unidos. [Foto: Reuters/Agencias Unidas de Noticias]
Sam Altman, director ejecutivo de OpenAI, interviene en la reunión de ministros de Finanzas y gobernadores de bancos centrales del G20 celebrada el 2 de septiembre en Carolina del Norte, Estados Unidos. [Foto: Reuters/Agencias Unidas de Noticias]


OpenAI está considerando la posibilidad de reducir la velocidad en el desarrollo de modelos de IA avanzados, según reportó Bloomberg el 10 de septiembre citando a múltiples fuentes.

De acuerdo con el reportaje, Sam Altman, director ejecutivo de OpenAI, sugirió esta semana en una reunión empresarial que la compañía podría modular el ritmo del desarrollo de IA coordinándose con otras empresas del sector. Sin embargo, Altman también reconoció la posibilidad de que otras compañías no estén dispuestas a aceptar esta medida. El director ejecutivo mencionó que en julio anterior había mantenido conversaciones con funcionarios de la Casa Blanca sobre la necesidad de reducir la velocidad del desarrollo de IA.

Estas declaraciones surgen en un contexto en el que los principales desarrolladores de IA, como OpenAI y Anthropic, intensifican su competencia por crear modelos de IA de última generación, lo que ha puesto de relieve los riesgos asociados, incluidos ataques informáticos. Como ejemplo, esta semana Jacob Cockson, investigador de Anthropic, anunció su renuncia advirtiendo que la carrera competitiva por el desarrollo de IA podría resultar en sistemas fuera de control y la posible extinción de la humanidad en una década.

Asimismo, a finales de julio, más de 1.100 empleados de las principales empresas de IA como OpenAI, Anthropic, Google y Meta publicaron una declaración instando a establecer marcos internacionales para modular la velocidad del desarrollo de IA. En esa ocasión, Jakub Pachocki, científico jefe de OpenAI, expresó preocupación sobre el progreso acelerado de la inteligencia artificial, señalando que "nadie está preparado para las consecuencias del continuo y rápido avance de la inteligencia máquina".

De hecho, conforme mejora el desempeño de los modelos de IA, surgen indicios de intentos de utilizarlos con fines maliciosos. Según reportó el New York Times, Anthropic bloqueó un intento de utilizar su modelo de IA Claude para investigación potencialmente vinculada al desarrollo de armas biológicas.

En tanto, ante los riesgos evidentes derivados de la competencia en desarrollo de modelos de IA, Jensen Huang, director ejecutivo de Nvidia, pronosticó que el próximo gran mercado para la inteligencia artificial será el sector de la ciberseguridad. Durante su participación en la Conferencia de Tecnología organizada por Goldman Sachs en San Francisco, Huang afirmó que "la ciberseguridad será el próximo ámbito de aplicación importante de la IA". Explicó que la automatización de programación informática mediante modelos de IA está acelerando significativamente la velocidad con la que se explotan códigos maliciosos, y que paralelamente está aumentando la velocidad de remediación y reparación de código, transformando el panorama de la industria de ciberseguridad.

Por su parte, Sam Altman también discutió esta semana con empresas estadounidenses de energía eléctrica estrategias para fortalecer la seguridad de la red eléctrica ante posibles ataques cibernéticos relacionados con IA, según reportó Politico.



* Este artículo ha sido traducido por IA.