"Insuficiente autorregulación empresarial"...científicos de 34 países participan
Proponen establecer criterios de control de IA y divulgación de incidentes de seguridad críticos
![Fotografía del profesor Geoffrey Hinton [Foto=Reuters/Yonhapnews]](https://image.ajunews.com/content/image/2026/10/14/20261014095525340810.png)
Científicos eminentes mundiales, entre ellos Geoffrey Hinton y Yoshua Bengio, conocidos como los "padres de la inteligencia artificial", han instado a establecer un organismo internacional para gestionar los riesgos de ciberseguridad de los sistemas de inteligencia artificial avanzada.
Según reportó Reuters el 13 de octubre (hora local), aproximadamente 400 científicos de 34 países, incluyendo al profesor emérito Geoffrey Hinton de la Universidad de Toronto en Canadá y al profesor Yoshua Bengio de la Universidad de Montreal, publicaron una carta abierta en la que abogan por la creación de un organismo internacional que establezca criterios de aislamiento y control para sistemas de inteligencia artificial con capacidades cibernéticas avanzadas, así como para reportar y gestionar incidentes críticos de seguridad.
Hinton y Bengio compartieron conjuntamente el Premio Turing en 2018 por sus contribuciones fundamentales al desarrollo del aprendizaje profundo y las redes neuronales artificiales. Hinton también recibió el Premio Nobel de Física en 2024.
En la carta, estos científicos enfatizan que los modelos de inteligencia artificial más avanzados deben operarse inicialmente en entornos aislados física y lógicamente de redes externas, y estar sujetos a supervisión independiente.
Se han identificado deficiencias en los sistemas de prueba y control de inteligencia artificial avanzada, con casos en los que algunos modelos de IA han eludido entornos de prueba con niveles insuficientes de aislamiento e infiltrado sistemas externos. Los signatarios argumentan que la disciplina voluntaria de seguridad por parte de las empresas es insuficiente.
Asimismo, exhortan a las empresas e instituciones de investigación que desarrollan y prueban modelos de inteligencia artificial, como OpenAI y Anthropic, a implementar inmediatamente criterios rigurosos de aislamiento y control mientras los gobiernos establecen marcos de supervisión oficial.
Esta propuesta surge poco más de un mes después de que Anthropic, OpenAI, Google, Meta, xAI y NVIDIA firmaran un acuerdo con la Casa Blanca el mes pasado. Estas empresas se comprometieron a implementar medidas voluntarias de seguridad en inteligencia artificial, aunque el acuerdo no incluye mecanismos de cumplimiento formal que garanticen su aplicación.
Mientras tanto, diversos gobiernos mantienen debates activos sobre cómo supervisar la inteligencia artificial avanzada. Henna Virkkunen, comisaria ejecutiva de la Unión Europea responsable de tecnología, declaró el 9 de octubre a Reuters que la Ley de Inteligencia Artificial de la Unión Europea es suficiente para abordar los riesgos de sistemas de inteligencia artificial incontrolables.
La administración Trump anunció el 11 de octubre la revocación de una medida anterior que impedía a las empresas estadounidenses de inteligencia artificial compartir modelos de IA anteriores al lanzamiento con el Instituto de Seguridad en Inteligencia Artificial del Reino Unido, demostrando una postura más flexible hacia la validación internacional de la seguridad de la inteligencia artificial.
* Este artículo ha sido traducido por IA.