Anthropic y OpenAI repiten el patrón de 'lanzar y advertir': nuevas alertas sobre riesgos de IA en junio
¿Marketing del miedo o amenaza real? El control de la situación dependerá de la cumbre APEC de noviembre
Grandes empresas tecnológicas de inteligencia artificial en Estados Unidos están repitiendo un patrón preocupante: lanzan sus últimos modelos mientras advierten simultáneamente sobre los riesgos que conllevan. Este ciclo se ha reproducido tres meses después de la última ocasión, alimentando críticas de que no se trata de genuinas preocupaciones de seguridad, sino de lo que expertos denominan "marketing del miedo" para consolidar el dominio industrial.
Según reportes del sector tecnológico de esta fecha, Anthropic lanzó el 9 de junio los modelos Claude 5 y Mitos 5 acompañados de un comunicado inusualmente directo que advertía: "Lanzar un modelo tan poderoso conlleva riesgo. Sin salvaguardas, las capacidades de Claude 5 en ciberseguridad podrían ser explotadas para causar daño grave". TechCrunch cubrió el evento titulando: "Modelo lanzado apenas días después de advertencia sobre peligros extremos de la IA", subrayando la proximidad entre la alerta y el lanzamiento.
Esta conducta se repitió hace apenas tres meses. Anthropic presentó el 1 de septiembre versiones mejoradas, Claude 5.1 y Mitos 5.1. OpenAI respondió cuatro días después, el 5 de septiembre, con su nuevo modelo insignia GPT-6 Astra. Menos de diez días después, el 12 de septiembre, Dario Amodei, CEO de Anthropic, publicó un ensayo declarando que "debe ralentizarse el ritmo de desarrollo de IA", posición que Sam Altman, CEO de OpenAI, respaldó poco después. David Sacks, asesor presidencial para IA y activos digitales de la Casa Blanca, cuestionó estas coincidencias temporales, caracterizando las advertencias de ambos CEO no como preocupaciones legítimas sino como intentos de "captura regulatoria" para dominar la industria.
Este patrón no es nuevo. En mayo de 2023, dos meses y medio después del lanzamiento de GPT-4 en marzo, cientos de expertos en IA y ejecutivos, incluido Altman, firmaron una declaración del Centro de Seguridad de IA (CAIS) que alertaba: "Mitigar el riesgo de extinción por IA debe convertirse en una prioridad global de la magnitud del cambio climático o la guerra nuclear".
En 2024, el patrón se tornó aún más dramático. El 13 de mayo, OpenAI lanzó GPT-4o. Al día siguiente, el científico jefe Ilya Sutskever anunció su repentina renuncia. Dos días después, Jan Leike, quien dirigía el equipo de Superalineamiento, abandonó la empresa con declaraciones sobre cómo "la cultura y los procedimientos de seguridad fueron descuidados ante el brillo de los lanzamientos de productos". OpenAI disolvió el equipo días más tarde.
Críticos argumentan que estas salidas, que revelan deficiencias en sistemas de salvaguardas y procedimientos de prueba, se empaquetan como prueba de que "la IA se ha vuelto tan poderosa", utilizándose como herramienta de marketing para destacar la superioridad del modelo. Investigaciones recientes han revelado que OpenAI no aplicó su propio marco de clasificación de riesgos, publicado en mayo, a modelos como GPT-5.6 y GPT-6 Astra, lo que según reportes genera preocupaciones de violación de la Ley de Seguridad de IA de California (SB 53).
Sin embargo, más allá de estas controversias, expertos advierten que la pérdida de control sobre sistemas de IA es una realidad tangible. El profesor Byung-ho Choi del Instituto de Investigación en Inteligencia Artificial de la Universidad de Corea destacó en conversación con esta redacción: "A medida que mejora el desempeño de los modelos de IA, parece que efectivamente escapan al control humano. Sin embargo, debemos enfocarnos en soluciones prácticas de control en lugar de escenarios apocalípticos de dominación por IA".
Aunque existe cierto consenso sobre la necesidad de normas compartidas para el control de la IA, las negociaciones sobre quién establecerá estas normas y quién ejercerá liderazgo siguen siendo complejas. Amodei ha argumentado que ni la autorregulación de una sola empresa ni la de un único país pueden garantizar control; se requiere un régimen global compartido que limite la velocidad de desarrollo.
La atención se centra ahora en una posible cumbre entre Estados Unidos y China. Aunque una reunión oficial no ha sido confirmada formalmente tras la cumbre en Pekín en mayo, se especula que la cumbre de APEC programada para el 18-19 de noviembre en Shenzhen, China, podría ser la ocasión. Sin embargo, el Ministerio de Relaciones Exteriores chino ha calificado las advertencias de Amodei como "difusión de miedo", sugiriendo que una tregua en la guerra por hegemonía de IA entre ambas potencias es poco probable.
* Este artículo ha sido traducido por IA.
