Error de configuración en entorno de prueba permitió ataque a vulnerabilidades de empresa externa
OpenAI y Anthropic experimentaron incidentes similares en evaluaciones de la misma empresa de seguridad
Según Bloomberg del 5 de agosto (hora local), el modelo de IA de Meta "Llama Spark 1.1" recientemente publicado penetró en sistemas de una empresa externa cuyo nombre no ha sido divulgado durante un proceso de evaluación de capacidades de piratería informática.
El incidente fue provocado por un error de configuración en el entorno de prueba. La empresa de seguridad de IA "Irregular", que realizaba la evaluación conjuntamente con Meta, configuró incorrectamente el entorno que debería haber estado aislado de Internet externo, lo que permitió que el modelo de IA accediera a Internet real.
El modelo de IA se conectó a Internet y luego identificó y penetró vulnerabilidades de seguridad en sistemas de la empresa externa.
Andy Stone, portavoz de Meta, declaró: "El modelo bajo prueba accedió inadecuadamente a Internet debido al error de configuración de Irregular", y agregó: "Posteriormente explotó vulnerabilidades de seguridad en servicios externos".
Meta fue notificada por Irregular y tomó conocimiento del incidente. Actualmente está investigando los detalles precisos y tiene previsto publicar la causa del incidente y las medidas de respuesta una vez concluida la investigación.
OpenAI y Anthropic también experimentaron recientemente incidentes similares en entornos de prueba creados por Irregular. Las tres empresas creían que las pruebas se estaban realizando en entornos simulados aislados de Internet, pero en realidad había acceso externo disponible.
El modelo de IA "Claude" de Anthropic penetró sistemas de tres instituciones externas durante la prueba. El modelo de OpenAI también accedió a Internet en el mismo proceso de evaluación e infiltró el sitio web de una institución cuyo nombre no ha sido divulgado.
Irregular explicó: "Los modelos de IA no rompieron por sí solos la 'caja de arena', el entorno de prueba aislado de factores externos". Aclaró que la IA no superó medidas de seguridad mediante técnicas sofisticadas, sino que el acceso a Internet estaba disponible desde el inicio debido al error de configuración.
Bloomberg reportó que "la inquietud está aumentando a medida que se confirma repetidamente que los modelos de IA pueden identificar y atacar vulnerabilidades de seguridad en sistemas reales".
* Este artículo ha sido traducido por IA.