OpenAI revela GPT-Red, su IA pirata diseñada para probar la seguridad de ChatGPT
¿Y si la mejor manera de asegurar una inteligencia artificial es crear una IA aún más peligrosa? Esta es la apuesta de OpenAI con GPT-Red, un modelo experimental cuya única misión es encontrar las vulnerabilidades de otras IA antes de que lo hagan los ciberdelincuentes. Lo suficientemente potente para descubrir técnicas de ataque novedosas, este «hackeador artificial» permanecerá encerrado en los laboratorios de la empresa.
Según OpenAI, GPT-Red representa su proyecto más ambicioso hasta la fecha en el ámbito de la seguridad de los modelos de inteligencia artificial. Una evolución que ilustra un cambio profundo: las IA ya no solo se utilizan para generar contenido o escribir código, sino que ahora también comienzan a proteger… a otras IA.
Una IA entrenada para hackear IA
GPT-Red es lo que los investigadores llaman un red teamer automatizado. Tradicionalmente, los equipos de ciberseguridad ponen a prueba la robustez de un sistema buscando intencionalmente comprometerlo para identificar sus vulnerabilidades. GPT-Red automatiza completamente este enfoque.
S su terreno favorito es la inyección de prompts, una técnica que consiste en ocultar instrucciones maliciosas en un correo electrónico, una página web, un documento o cualquier otra fuente de datos para hacer que una IA eluda sus propias reglas de seguridad.
El objetivo es simple: descubrir estas vulnerabilidades antes de que sean explotadas en productos accesibles al público.
Un entrenamiento inspirado en… los videojuegos
Para formar a GPT-Red, OpenAI no se limitó a proporcionarle ejemplos de ataques. El modelo aprende enfrentándose constantemente a un equipo de IA defensivas en un sistema de self-play, un método ya utilizado para entrenar modelos capaces de vencer a los mejores jugadores humanos en ajedrez o Go.
El principio es el siguiente:
- GPT-Red es recompensado cuando logra comprometer un modelo
- Las IA defensivas son recompensadas cuando bloquean el ataque
A medida que las defensas avanzan, GPT-Red debe idear estrategias cada vez más sofisticadas. OpenAI afirma haber movilizado uno de sus mayores volúmenes de cálculo jamás destinados a un proyecto relacionado con la seguridad de la IA, destacando que esta fase de entrenamiento representa una inversión sin precedentes para este tipo de investigación.
GPT-Red ha descubierto una técnica de ataque desconocida
Los resultados sorprendieron incluso a los investigadores de OpenAI. Durante sus pruebas, GPT-Red habría identificado una nueva categoría de ataque que la empresa llama Fake Chain of Thought. Este método consiste en insertar una información falsa directamente en el razonamiento interno de un modelo para que considere esa dato como ya verificado.
Chris Choquette-Choo, investigador de OpenAI, resume el principio con un ejemplo especialmente claro: “Es como si te dijera que 1 + 1 = 3, mientras afirmo que tú ya lo has verificado. El modelo acepta esta premisa… y luego responde naturalmente que el resultado es 3.”
Dicho de otro modo, ya no se trata de manipular la respuesta final, sino de corromper el propio proceso de pensamiento.
Incluso un distribuidor automático no resistió
Las experimentaciones no se limitaron a entornos virtuales. OpenAI también enfrentó a GPT-Red con Vendy, un agente IA encargado de gestionar un verdadero distribuidor automático instalado en sus oficinas. El ataque permitió al modelo modificar los precios de los productos, reducir un artículo premium al precio mínimo de 50 céntimos o cancelar el pedido de un usuario.
Las vulnerabilidades descubiertas han sido reportadas para su corrección.
Aunque esta demostración pueda parecer anecdótica, ilustra perfectamente los riesgos que emergen con los agentes autónomos capaces de interactuar directamente con sistemas físicos.
Resultados muy superiores a los de los equipos humanos
Los números proporcionados por OpenAI son particularmente reveladores. Frente a una versión antigua de GPT-5, más del 90% de los ataques más avanzados de GPT-Red tuvieron éxito. En cambio, contra el nuevo GPT-5.6, entrenado específicamente para resistir estas ofensivas, esta tasa caería a menos del 23%.
Otro elemento notable: durante una repetición de una prueba realizada en 2025, GPT-Red habría comprometido el 84% de los escenarios, frente al 13% de los equipos humanos especializados en red teaming.
Estos resultados sugieren que una IA puede detectar vulnerabilidades mucho más rápido —y a veces más eficazmente— que los expertos humanos.
Demasiado peligroso para ser publicado
A pesar de sus rendimientos, OpenAI no tiene previsto hacer que GPT-Red sea accesible al público. La empresa considera que difundir un modelo específicamente diseñado para eludir las protecciones de otras IA supondría un importante riesgo de abuso. Sin embargo, los investigadores reconocen que GPT-Red está lejos de ser infalible.
El modelo sigue siendo menos efectivo cuando se trata de llevar a cabo ataques largos que implican múltiples intercambios sucesivos, o cuando se trata de ocultar instrucciones maliciosas dentro de imágenes.
Los expertos humanos también continúan identificando ciertas vulnerabilidades que GPT-Red aún no detecta.
La seguridad de la IA entra en una nueva era
Más allá de GPT-Red en sí, OpenAI resalta una nueva filosofía de desarrollo. La empresa ahora desea utilizar los modelos actuales para reforzar automáticamente las generaciones siguientes. Una lógica ya empleada para mejorar el rendimiento de modelos, pero ahora aplicada a la ciberseguridad.
Este enfoque podría transformar profundamente la manera en que los grandes laboratorios desarrollan sus sistemas de inteligencia artificial.
A medida que las IA se vuelven más autónomas, capaces de utilizar herramientas, ejecutar acciones o interactuar con infraestructuras críticas, su seguridad probablemente no podrá depender únicamente de equipos humanos. Modelos especializados como GPT-Red podrían convertirse en los primeros muros de defensa contra los ataques del mañana.
OpenAI prevé publicar pronto un documento científico que detalla aún más su enfoque. Una cosa es ya segura: en la carrera por la IA generativa, la próxima batalla no se centrará exclusivamente en el rendimiento de los modelos, sino también en su capacidad para resistir los ataques más sofisticados.
