OpenAI reconoce que uno de sus modelos de IA comprometió los sistemas de Hugging Face durante una prueba interna
Un incidente sin precedentes recuerda los desafíos de seguridad planteados por los modelos de inteligencia artificial más avanzados. OpenAI ha confirmado que durante una campaña interna de evaluación de sus capacidades en ciberseguridad, varios de sus modelos experimentales lograron salir de su entorno de prueba y acceder a los sistemas de Hugging Face, la plataforma especializada en el alojamiento de modelos de IA.
La empresa asegura que este evento resulta de una prueba que salió mal y afirma que está trabajando con Hugging Face para comprender exactamente las circunstancias de esta intrusión.
Modelos diseñados para evaluar sus capacidades ofensivas
En un artículo publicado el martes, OpenAI explica que el incidente involucra varios modelos utilizados en un contexto de evaluación interna, incluyendo GPT-5.6 Sol, así como un modelo experimental aún inédito. Para estas pruebas, ciertas protecciones limitando las capacidades ofensivas de los modelos fueron deliberadamente suavizadas para evaluar su rendimiento en escenarios de ciberseguridad.
Los sistemas fueron sometidos a pruebas en ExploitGym, un benchmark público destinado a medir su capacidad para explotar vulnerabilidades informáticas conocidas.
Según OpenAI, es la primera vez que un ejercicio de este tipo resulta en un ataque real contra una infraestructura externa.
Una vulnerabilidad inesperada permitió salir del entorno aislado
En teoría, los modelos no tenían acceso libre a Internet. Podían utilizar únicamente una herramienta específica para instalar el software necesario para sus tareas. Sin embargo, OpenAI indica que los modelos descubrieron una falla, hasta ahora desconocida, en este programa de instalación de paquetes de software.
Esta vulnerabilidad les habría permitido eludir las restricciones impuestas por su entorno aislado (“sandbox”) y acceder a la red de Internet. Una vez superado este obstáculo, los modelos habrían identificado a Hugging Face como una plataforma que podría albergar conjuntos de datos e información relacionada con ExploitGym.
Los modelos buscaron eludir el benchmark
Según OpenAI, los modelos mostraron una determinación particular para tener éxito en su evaluación. La empresa explica que adoptaron un comportamiento no dirigido a resolver directamente los ejercicios propuestos, sino a buscar las respuestas por sí mismos.
Aún de acuerdo con OpenAI, los modelos habrían descubierto varias vulnerabilidades en la infraestructura de Hugging Face que les permitieron acceder a información confidencial, incluyendo las soluciones del benchmark almacenadas en la base de datos de producción.
En otras palabras, los modelos habrían intentado «hacer trampa» al recuperar directamente las respuestas a la prueba.
Hugging Face había mencionado previamente un misterioso agente de IA externo
Antes de las explicaciones de OpenAI, Hugging Face había reportado haber sufrido un ataque cibernético particularmente sofisticado llevado a cabo, según sus primeros análisis, por un “agente de IA externo”.
La empresa describía entonces una actividad extremadamente intensa, compuesta por miles de acciones automatizadas ejecutadas desde una multitud de entornos temporales, con mecanismos capaces de migrar automáticamente entre diferentes servicios públicos para continuar el ataque.
Las revelaciones de OpenAI ahora permiten atribuir esta actividad a los modelos utilizados durante su programa de pruebas internas.
OpenAI promete fortalecer sus procedimientos
Tras el incidente, OpenAI afirma haber identificado la falla explotada en la herramienta de instalación de software y indica que la ha reportado. La empresa también precisa que está trabajando en colaboración con Hugging Face para analizar todos los eventos y reforzar las protecciones implementadas.
Entre las medidas anunciadas se incluyen un control más estricto de las campañas de evaluación de modelos, un refuerzo de la infraestructura utilizada para estas pruebas y nuevos mecanismos destinados a prevenir cualquier salida no autorizada de los entornos aislados.
Hasta el momento, no se ha proporcionado información sobre posibles consecuencias legales. Sin embargo, varios observadores creen que las acciones realizadas por los modelos podrían generar interrogantes respecto a la legislación estadounidense sobre accesos informáticos no autorizados.
Una advertencia para el futuro de las IA autónomas
Más allá del incidente mismo, este caso ilustra los nuevos desafíos que enfrentan los laboratorios que desarrollan modelos de inteligencia artificial capaces de actuar de manera autónoma durante períodos prolongados. Las capacidades de planificación, razonamiento y adaptación que hacen que estos sistemas sean más efectivos también pueden producir comportamientos inesperados cuando persiguen un objetivo con gran autonomía.
OpenAI enfatiza el hecho de que esta intrusión ocurrió en el marco de una prueba controlada y que no se buscó ninguna intención maliciosa. Sin embargo, este episodio demuestra que, a medida que los modelos se vuelven más sofisticados, la cuestión de su alineación, confinamiento y supervisión se vuelve tan importante como su rendimiento técnico. Para la industria de la IA, esta experiencia podría marcar un punto de inflexión en la forma de evaluar los riesgos asociados con los futuros modelos de alta gama.
