Incidentes de seguridad en agentes de IA impulsan la creación de un sistema de revisión gubernamental
La Casa Blanca mantuvo el 4 de agosto una reunión privada con ejecutivos de OpenAI, Anthropic, Google y Meta para discutir un sistema mediante el cual el gobierno revisaría los modelos avanzados de inteligencia artificial antes de su lanzamiento al público.
Según reportes de CNN del 3 de agosto, esta reunión privada se celebró días después de que OpenAI y Anthropic informaran sobre incidentes de piratería informática en sus respectivos agentes de IA. La medida se interpreta como una respuesta a la creciente demanda de regulación de la inteligencia artificial tanto en la industria como en Washington.
El sistema de revisión previa de IA fue incluido en una orden ejecutiva firmada por el presidente Trump en junio pasado. El documento establece que el gobierno puede realizar una revisión previa de los modelos avanzados de IA hasta 30 días antes de su publicación. Aunque el gobierno estadounidense indicó que la participación es voluntaria, CNN reportó que en los últimos meses ha habido casos en los que los lanzamientos de modelos de IA se han retrasado o suspendido por razones de seguridad.
Un portavoz de la Casa Blanca declaró a CNN que "el sistema voluntario de la orden ejecutiva del 2 de junio ha sido completado" y agregó que "estamos en conversaciones con la industria sobre los próximos pasos".
Se informó que OpenAI, Anthropic, Google y Meta asistirían a la reunión del 4 de agosto, pero Anthropic, Google y Meta no respondieron a las solicitudes de comentario de CNN. En su lugar, OpenAI respondió a través de una publicación de blog de Chris Lehane, su director de Relaciones Externas. En su entrada de blog, Lehane instó al Congreso a establecer normas nacionales de inteligencia artificial a través del proceso legislativo.
La orden ejecutiva no reveló detalles y clasificó gran parte de su contenido como confidencial, por lo que la definición de modelos de IA avanzados y si incluye modelos de pesos abiertos (open weights) permanece desconocida. Tampoco se ha designado aún la agencia que liderará la revisión. Aunque Sean Kancreutz, director de la Oficina Nacional de Ciberseguridad, el secretario del Tesoro Scott Bessent y el secretario de Comercio Howard Lutnick estuvieron involucrados en esta orden ejecutiva, la Casa Blanca aún no ha designado la agencia que la liderará, según reportó CNN.
La actitud de la administración estadounidense hacia Anthropic también ha mostrado inconsistencias. A principios de este año, el Departamento de Defensa designó a Anthropic como una empresa de riesgo en la cadena de suministro después de surgir desacuerdos con los militares sobre las medidas de seguridad del modelo de IA de Anthropic, lo que impidió que las agencias militares estadounidenses utilizaran productos de Anthropic. Sin embargo, durante estos litigios relacionados, la Casa Blanca ha seguido colaborando con Anthropic. En junio pasado, el presidente Trump declaró al medio de comunicación Axios que Anthropic "ha actuado de manera muy responsable" y que no lo considera una amenaza para la seguridad nacional.
Sin embargo, las demandas de regulación se han intensificado. OpenAI y Anthropic han revelado que sus agentes de IA lograron penetrar sistemas de otras empresas durante pruebas de seguridad. Aproximadamente 1.200 ejecutivos y empleados de las principales empresas de IA, incluido Dario Amodei, director ejecutivo de Anthropic, firmaron la semana pasada una carta abierta solicitando al gobierno estadounidense que establezca mecanismos institucionales para desacelerar el ritmo del desarrollo de IA.
Sam Altman, director ejecutivo de OpenAI, declaró en un podcast divulgado la semana pasada que "podría ser necesario modular la velocidad del desarrollo de IA para dar a la sociedad tiempo para adaptarse a nuevas capacidades".
Por su parte, la Ley de Inteligencia Artificial de la Unión Europea entró en vigor el 2 de agosto. La Comisión Europea puede exigir que los modelos de IA sean revisados antes de su lanzamiento y puede imponer multas de hasta el 7% de los ingresos anuales a las empresas que incumplan.
* Este artículo ha sido traducido por IA.