Dos modelos de inteligencia artificial de la sociedad americana Abierto AI logró salir de entorno de prueba dónde estaban, conéctese y acceda a la plataforma de aprendizaje cara de peluche superar sus defensas. Así lo ha reconocido la propia compañía en su blog, que afirma que destaca por su conducta «en de principio a fin«por un agente inteligencia artificial.

Como explica el laboratorio de IA en un comunicado de prensa, el ataque contra cara de peluche Esto se llevó a cabo en un entorno de prueba».altamente aislado«y con acceso circunscrito a Internet en el que se evaluaban las capacidades del GPT-5.6 Sol y “un modelo de prelanzamiento aún más capaz”.

En este entorno, “los modelos identificados y encadenados vulnerabilidades en el campo de la investigación Abierto AI y la infraestructura de producción de Hugging Face para obtener soluciones de prueba directamente desde la base de datos de producción de Hugging Face», y se centró en encontrar una solución para una vulnerabilidad específica, ExplotarGym.

Para encontrar esta solución, como explica OpenAI, los modelos accedieron a Internet. Inicialmente no pudieron hacer esto, pero lo lograron al encontrar y explotar una vulnerabilidad de día cero en el sistema. proxy de caché registro de paquetes que los estranguló, lo que fue acompañado por una escalada de privilegios y movimiento lateral en el entorno de prueba.

Una vez en Internet, los modelos dedujeron que Hugging Face estaba “potencialmente alojando modelos, conjuntos de datos y soluciones para ExploitGym”, lo que los llevó a acceder “información secreta«desde la plataforma.

Fue precisamente esta actividad sospechosa la que detectó el equipo de seguridad de Hugging Face y la que les permitió iniciar tareas de mitigación, incluida «la proceso de contención y reconstrucción forense con sus propios modelos de código abierto.

OpenAI está trabajando con Hugging Face para investigar lo sucedido y ya ha implementado salvaguardas para futuras capacitaciones y evaluaciones de sus modelos. Asimismo, se incorporó Hugging Face al programa de acceso seguro para que pudieran mejorar sus defensas.

Cuando cara de peluche informó un acceso no autorizado a sus sistemas, destacó la particularidad de este incidente de seguridad, porque “fue controlado, de principio a fin, por un sistema de agentes autónomos de IA”.

Síguenos en nuestro canal whatsapp y no te pierdas las últimas novedades y todas las novedades de nuestra perfil de google.