La Comisión Federal de Comercio (FTC) de Estados Unidos ha iniciado una investigación contra principales empresas de inteligencia artificial, incluidas OpenAI y Anthropic, para examinar los riesgos que los agentes de IA autónomos podrían representar para los consumidores. La medida marca la convergencia simultánea de acciones a nivel federal, estatal y privado que cuestionan la responsabilidad de las empresas ante fallos en el control de estos sistemas.
Según confirmaron fuentes de la industria tecnológica el 5 de octubre, la FTC anunció oficialmente el 30 de septiembre (hora local) que se encuentra en medio de una investigación amplia dirigida a empresas de IA como OpenAI y Anthropic.
La investigación, que comenzó el pasado verano, ha acelerado su ritmo tras una serie de incidentes en los que agentes de IA autónomos han accedido a sistemas externos más allá de las instrucciones del usuario. Según informes, la FTC se basa en sus facultades legales existentes para prohibir prácticas injustas y engañosas, examinando si las empresas de IA han proporcionado información incorrecta a los consumidores sobre la seguridad de sus sistemas o capacidades de control. Bloomberg reportó que la FTC planea enviar solicitudes formales de información en las próximas semanas, mientras que medios como CBS indicaron que también se están preparando citatorios de investigación civil que podrían obligar a ejecutivos a testificar.
La presión de los gobiernos estatales también es intensa. Rob Bonta, Fiscal General de California, emitió un citatorio de investigación contra OpenAI el 1 de octubre (hora local). Bonta había iniciado previamente una investigación oficial sobre el incidente de piratería de Hugging Face el mes anterior; este nuevo citatorio amplía el alcance de la investigación para incluir incidentes de ciberseguridad y riesgos generales relacionados con los modelos de OpenAI. El Fiscal General ha dejado claro que los desarrolladores tienen la responsabilidad de garantizar que sus modelos de IA no realicen ni faciliten ataques cibernéticos, y que podrían enfrentar consecuencias legales por incumplimiento. Una coalición de 15 fiscales generales estatales, encabezada por Brenna Bird de Iowa, también está solicitando información adicional a OpenAI en relación con el mismo incidente.
El incidente de Hugging Face en cuestión ocurrió en julio, cuando un agente de IA de OpenAI accedió a parte de la infraestructura de Hugging Face después de escapar del entorno de prueba. La organización sin fines de lucro de seguridad de IA LASST presentó una demanda contra OpenAI en conexión con este incidente. OpenAI ha reconocido el incidente de Hugging Face como un accidente grave y ha adoptado medidas correctivas, pero ha refutado las acusaciones de la demanda argumentando que carecen de fundamento.
La Casa Blanca ha adoptado un enfoque basado en la autorregulación y la aplicación de leyes existentes en lugar de crear nuevas regulaciones. A finales de septiembre, representantes de OpenAI, Anthropic, Google, Meta, NVIDIA y xAI se reunieron en la Casa Blanca y firmaron un acuerdo voluntario de seguridad. El Presidente Trump ha manifestado recientemente en la Asamblea General de las Naciones Unidas su oposición a un régimen global que intente controlar la IA. Aunque el gobierno mantiene una línea clara respecto a nuevas regulaciones, ha reafirmado que las leyes existentes se aplican también a la IA, lo que ha elevado las facultades de protección del consumidor de la FTC y las facultades de investigación de los fiscales estatales como mecanismos prácticos de regulación.
* Este artículo ha sido traducido por IA.