Líderes de IA piden ralentizar el desarrollo de modelos avanzados; Altman y Musk apoyan la propuesta

  • CEO de Anthropic: "Es necesario ralentizar el ritmo de desarrollo de IA avanzada"

  • Altman y Musk expresan apoyo público "inusual" a la propuesta

  • OpenAI pospone su salida a bolsa este año por "preocupaciones de seguridad"

  • Industria estadounidense estudia respuesta conjunta en seguridad de IA

  • Trump muestra postura "pasiva" ante regulación de IA

Dario Amodei, Director Ejecutivo de Anthropic [Foto=Reuters/Agencia de Noticias Yonhapnews]
Dario Amodei, Director Ejecutivo (CEO) de Anthropic [Foto=Reuters/Agencia de Noticias Yonhapnews]

"La industria tecnológica debe ralentizar el ritmo de mejora del desempeño de los modelos de inteligencia artificial (IA)" <Dario Amodei, CEO de Anthropic>
"Considerando la situación que se desarrolla en materia de seguridad, este no es el momento oportuno para una salida a bolsa." <Sam Altman, CEO de OpenAI>


Los principales ejecutivos de empresas estadounidenses de IA argumentaron el 12 de septiembre (hora local) que el ritmo de desarrollo de modelos de IA avanzada debe ralentizarse. En medio de crecientes preocupaciones sobre seguridad en IA, Sam Altman, CEO de OpenAI, anunció que no procederá con una oferta pública inicial (IPO) este año.

Según reportes de CNBC y otros medios estadounidenses del 13 de septiembre, Amodei publicó una extensa entrada de blog el día anterior expresando su preocupación por el "avance acelerado de la tecnología de IA" e instando a que "toda la industria de IA participe en la ralentización del ritmo de desarrollo de modelos avanzados". Asimismo, anunció que implementará nuevas medidas de seguridad, incluyendo la participación de agencias evaluadoras independientes de terceros con niveles de acceso equivalentes al de sus empleados.

Subrayó que "ralentizar el ritmo de desarrollo no significa detener el desarrollo de IA en sí", argumentando que si la industria estadounidense de IA coordinara conjuntamente la ralentización del desarrollo, podría mantener su competitividad mientras avanza en las medidas de seguridad necesarias.

Amodei enfatizó que garantizar la seguridad en IA requiere no solo coordinación a nivel industrial, sino también cooperación internacional. Específicamente, propuso que las principales empresas de IA de países democráticos colaboren para establecer estándares de seguridad comunes, y que sea necesaria cooperación entre gobiernos de naciones democráticas y autoritarias, como China, sobre cuestiones de seguridad en IA. La propuesta reconoce que si solo Estados Unidos ralentiza el desarrollo de IA, China podría adelantarse, por lo que considera esencial la cooperación internacional en seguridad que incluya a China.

Lo notable fue que tanto Sam Altman, CEO de OpenAI, como Elon Musk, CEO de SpaceX y xAI, expresaron públicamente su apoyo a la propuesta de Amodei ese mismo día.

Musk compartió el artículo de Amodei en la red social X (antes Twitter) escribiendo: "Dario tiene razón". Altman escribió en X: "Permitir que agencias evaluadoras independientes tengan acceso equivalente al de nuestros empleados es una excelente idea, y nosotros también implementaremos esta medida. Compartiremos detalles más específicos en breve".

Altman también afirmó en una entrevista publicada con la revista económica estadounidense Fortune que no procederá con la IPO de OpenAI este año debido a preocupaciones sobre seguridad en IA. Además, sugirió la posibilidad de que las principales empresas de IA, incluyendo OpenAI, anuncien próximamente un pacto para ralentizar el ritmo de desarrollo y coordinar respuestas conjuntas a riesgos de seguridad.

La cuestión de seguridad en IA se ha convertido recientemente en un tema prioritario en círculos políticos estadounidenses. En el Congreso, legisladores de ambos partidos, demócratas y republicanos, están comenzando a impulsar debates regulatorios exigiendo nuevas medidas de seguridad en IA.

También crece la resistencia social en torno a la IA. En Estados Unidos, aumentan las preocupaciones sobre la carga de energía y agua derivada de la expansión de centros de datos de IA y el incremento de tarifas eléctricas, además de inquietudes sobre pérdida de empleos por la expansión de IA. La IA se ha convertido en un tema central de las elecciones de mitad de mandato programadas para noviembre.

Sin embargo, a diferencia de los movimientos voluntarios de la industria, la administración Donald Trump mantiene una postura pasiva ante la regulación de IA. Bloomberg señala que "hasta el momento, la administración Trump no ha mostrado gran interés en ejercer activamente las facultades regulatorias del gobierno para establecer límites normativos en el desarrollo de IA".



* Este artículo ha sido traducido por IA.