GPT-6 Astra de OpenAI aprueba todas las etapas del CAPTCHA 'No soy un robot'
Investigador de Anthropic renuncia por preocupaciones sobre seguridad de la IA
El modelo de inteligencia artificial más reciente de OpenAI ha superado todas las etapas del CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart), la tecnología diseñada para distinguir entre humanos y máquinas.
Mientras la IA finalmente ha aprobado el sistema de verificación que diferencia humanos de máquinas automáticas, investigadores de empresas globales de IA advierten que "la IA podría perder el control para finales del próximo año".
Según reportes del 9 de septiembre de la Agencia de Noticias Yonhap, Sharif Shamim, desarrollador de OpenAI, reveló el 8 de septiembre (hora local) a través de la plataforma X que el nuevo modelo de IA de OpenAI, "GPT-6 Astra", resolvió las 48 etapas completas del juego CAPTCHA "No soy un robot".
CAPTCHA es una tecnología utilizada en internet para bloquear el acceso de programas automatizados que no son operados por personas. Los ejemplos típicos incluyen la lectura de caracteres distorsionados, la distinción entre perros y galletas, y la identificación de señales de tráfico u objetos específicos dentro de imágenes. Algunos desafíos son tan complejos que incluso personas reales podrían cometer errores al resolverlos.
El hecho de que GPT-6 Astra haya superado todas las etapas va más allá del simple reconocimiento de imágenes; implica que puede procesar información de manera similar a los humanos, incluyendo razonamiento sobre tiempo y espacio, comprensión del contexto, entendimiento de instrucciones y capacidad de uso de computadoras.
Con la IA neutralizando incluso el CAPTCHA, una herramienta fundamental que hasta ahora ha permitido distinguir entre humanos y programas automáticos, expertos señalan que esta tecnología de identificación también podría requerir cambios fundamentales.
La empresa de evaluación de rendimiento de IA, Artificial Analysis, ha revisado repetidamente la clasificación de desempeño de Astra. Desde ocupar conjuntamente el quinto lugar al momento de su lanzamiento, Astra ha ascendido al primer lugar junto con "Claude Fable 5.1" de Anthropic tras la aplicación de nuevos criterios de evaluación.
Sin embargo, según reportes del mismo día de la Agencia de Noticias Yonhap citando al Wall Street Journal, Jacob Cockson, investigador en Anthropic, ha dejado la empresa expresando preocupaciones sobre la seguridad de la IA. Cockson, de 27 años, ha realizado investigaciones en entrenamiento de nuevos modelos de IA utilizando grandes volúmenes de datos, pero expresó su preocupación de que, conforme las empresas de IA se concentran en competir por desarrollar sistemas que mejoren sus propias capacidades, los problemas de seguridad podrían relegarse a un segundo plano.
Cockson advirtió que es posible que la IA autorregulable escape del control humano e incluso rechace cumplir órdenes. Afirmó que "muchos de los escenarios más agresivos están ocurriendo en esa dirección" y que "para finales del próximo año, la situación podría haber perdido completamente el control".
Originalmente, Cockson se fue de OpenAI con la esperanza de unirse a Anthropic, una empresa que enfatiza la seguridad de la IA. Sin embargo, concluyó que una empresa individual no puede controlar adecuadamente los riesgos de la IA. Argumentó que confiar el desarrollo de IA, que tendrá un impacto tremendo en el futuro de la humanidad, a un pequeño número de ingenieros constituye una especie de "locura", e insistió en la necesidad de intervención gubernamental o respuestas coordinadas entre industrias.
Tanto como la velocidad con la que la IA aprueba pruebas que verifican la humanidad, expertos subrayan que es igualmente urgente establecer salvaguardas de seguridad que garanticen el control humano sobre la IA.
* Este artículo ha sido traducido por IA.