Investigador que renunció a Anthropic advierte: «Aún no sabemos cómo controlar la IA… podría llevar a la extinción de la humanidad»

Jacob Cockson testificando ante la Comisión de la Ciudad de Nueva York [Foto=Yonhapnews/Reuters]

Un investigador que renunció a Anthropic advirtiendo sobre los peligros de la carrera de desarrollo de inteligencia artificial alertó que «existe una mayor probabilidad de que la humanidad pierda el control sobre la IA».

Según Bloomberg y CNBC del 5 de octubre (hora local), Jacob Cockson, exinvestigador de Anthropic, testificó ante la Comisión de Inteligencia Artificial de la Ciudad de Nueva York declarando que «todavía no sabemos cómo controlar ningún sistema de IA».
 

Publicación que Jacob Cockson compartió en su cuenta de redes sociales el 9 de septiembre pasado [Fuente=Cuenta personal en redes sociales]

Cockson trabajó durante tres años en investigación de preentrenamiento (pretraining research) en OpenAI y Anthropic. El 8 de octubre (hora local) anunció su renuncia en su cuenta de X, criticando que «ninguna empresa está actuando de manera responsable. Están apostando con nuestras vidas».

Durante la audiencia, señaló que «en la trayectoria actual, hay una mayor probabilidad de que la humanidad pierda el control sobre la IA que de lo contrario, y esto podría resultar en la extinción de la humanidad».

Cockson compareció ante la Comisión a solicitud de Julie Menin, presidenta del Consejo de la Ciudad de Nueva York. Menin está impulsando un paquete de leyes de regulación de IA compuesto por un total de 10 ordenanzas. Las disposiciones clave incluyen la obligatoriedad de implementar un «interruptor de emergencia» para detener inmediatamente los sistemas en caso de situaciones críticas, la obligatoriedad de validación de seguridad por terceros antes de vender o distribuir sistemas de IA en Nueva York, la implementación de programas de recompensa para denunciantes internos, y multas de hasta 25.000 dólares (aproximadamente 3,4 millones de pesos mexicanos) por incumplimiento de normativas.

Respecto al «interruptor de emergencia», Cockson señaló que «podría ser de ayuda a corto plazo, pero no es suficiente para garantizar la seguridad a largo plazo».

En la audiencia también testificaron por videoconferencia representantes de grandes empresas tecnológicas como OpenAI, Anthropic y Google. El Consejo indicó que solicitará a los tribunales la emisión de una orden de comparecencia contra la división de IA de SpaceX por no responder a la solicitud de asistencia.

Mientras la administración Trump mantiene un enfoque de no intervención en la regulación de la IA, gobiernos estatales y locales como el de Nueva York intensifican sus propias regulaciones, ampliando la brecha entre las políticas federales y locales.

* Este artículo ha sido traducido por IA.