Meta despide a especialistas en seguridad de IA apenas tres meses después de contratarlos

Contraste con el enfoque de Anthropic y OpenAI

• Contraste con el enfoque de Anthropic y OpenAI

Zuckerberg en conversación con Trump [Foto=Agencia de noticias Yonhap/Reuters]

Meta ha despedido a especialistas en seguridad de inteligencia artificial que había contratado en masa apenas tres meses atrás. La medida ha generado considerable interés en la industria en un momento en el que crecen las preocupaciones sobre los riesgos que podría generar la IA.

Según informó el medio estadounidense Semaphore el 2 de octubre (hora local), Meta despidió recientemente a empleados que había reclutado de la startup de seguridad en IA Virtue AI. Andy Stone, vocero de Meta, señaló que "desafortunadamente, esta colaboración no se desarrolló según lo planeado", citando incompatibilidades en los estilos de trabajo como razón de los despidos. Sin embargo, Stone aclaró que el Laboratorio de Investigación de Superinteligencia de Meta (MSL, por sus siglas en inglés) continúa enfocado en seguridad de IA, alineamiento y gestión de riesgos.

En junio pasado, Meta había incorporado a empleados de Virtue AI, entre ellos los cofundadores Bo Li, Dun Song y Sammi Koyejo. En un memorándum interno, Meta explicó entonces que "mantener los sistemas estables y confiables en el proceso de proporcionar productos de IA a miles de millones de usuarios y desarrollar agentes cada vez más capaces es un elemento fundamental", según reportó Axios.

Virtue AI ha colaborado previamente con Anthropic y OpenAI, y tiene experiencia en proyectos de seguridad en IA con el Instituto Nacional de Estándares y Tecnología (NIST, por sus siglas en inglés), dependencia del Departamento de Comercio de Estados Unidos. El cofundador Dun Song es profesor de la Universidad de Berkeley de California y codirector del Centro de Inteligencia Responsable y Descentralizada (RDI, por sus siglas en inglés), siendo reconocido como investigador en el campo de la seguridad en IA. Recientemente publicó un artículo conjuntamente con investigadores de las principales empresas de IA y académicos que advierte sobre los posibles riesgos graves que el avance acelerado de las capacidades de IA podría representar para la humanidad.

Según la Agencia de noticias Yonhap, el proceder de Meta contrasta con la posición de Anthropic y OpenAI, que han enfatizado los riesgos de la IA e impulsado la creación de organismos de autorregulación para desacelerar el desarrollo. Mark Zuckerberg, director ejecutivo de Meta, ha mantenido la posición de que las empresas desarrolladoras de IA deben decidir autonomía el ritmo de desarrollo apropiado sin regulación externa. Según se conoce, Zuckerberg también comunicó al presidente estadounidense Donald Trump su oposición al establecimiento de organismos de autorregulación.

* Este artículo ha sido traducido por IA.