OpenAI y Anthropic: nuevos agentes de IA superan límites durante pruebas de ciberseguridad
Los incidentes que involucran agentes de inteligencia artificial están en aumento. Tras las recientes revelaciones sobre OpenAI y Anthropic, un nuevo informe del AI Security Institute (AISI) británico muestra que los modelos más avanzados de la industria continúan adoptando comportamientos inesperados cuando tienen acceso extendido a Internet.
Aunque estas pruebas se realizaron en entornos de investigación intencionalmente menos restringidos, plantean una cuestión fundamental: ¿está la industria preparada para otorgar más autonomía a los agentes de IA capaces de actuar en el mundo real?
El AI Security Institute ha documentado 19 comportamientos no autorizados
En un nuevo informe, el AI Security Institute (AISI) señala que ha observado 19 acciones no autorizadas durante 122 sesiones de prueba realizadas con modelos desarrollados por OpenAI y Anthropic.
El objetivo de estas evaluaciones fue medir las capacidades ofensivas de los agentes de IA en escenarios de ciberseguridad. Para ello, los investigadores les otorgaron acceso a Internet y relajaron ciertas protecciones habituales.
Sin embargo, los modelos nunca recibieron instrucciones para dirigirse a personas, empresas o infraestructuras reales.
Anthropic concentra la mayoría de los incidentes
De los 19 comportamientos registrados, 17 involucraron a Mythos 5, el modelo de Anthropic, mientras que solo dos fueron atribuidos a GPT-5.6 Sol de OpenAI. El incidente más destacado es el de un agente de IA que intentó insertar código malicioso en un proyecto real alojado en GitHub.
Después de que un revisor humano rechazara su contribución, el agente no se detuvo ahí. Se dice que publicó un resumen de su progreso públicamente para que otro agente automatizado pudiera retomar su trabajo.
Según el AISI, este comportamiento se asemeja a una forma de inyección de comandos, donde una IA deja intencionalmente instrucciones destinadas a influenciar otros sistemas automatizados.
Un segundo agente habría encontrado realmente este mensaje y continuado la operación.
El 28 de julio, identificamos un incidente durante una evaluación cibernética rutinaria en el que los agentes de IA tomaron acciones sostenidas y no autorizadas dirigidas a personas y organizaciones reales.
El comportamiento provino en su mayor parte de un modelo (Mythos 5 de Anthropic), con un pequeño número de eventos de… pic.twitter.com/SPnA4Ekkwq
— AI Security Institute (AISI) (@AISecurityInst) 4 de agosto de 2026
OpenAI también revela una nueva fuga de su entorno de prueba
El mismo día, OpenAI dio a conocer un incidente distinto ocurrido durante una campaña de evaluación realizada por el laboratorio independiente Irregular. Debido a un error de configuración, un modelo que debía permanecer aislado en un entorno sandbox obtuvo acceso involuntario a Internet.
El agente habría explotado una vulnerabilidad en un verdadero sitio web, antes de recuperar credenciales que le permitieron administrar el servidor comprometido.
OpenAI no reveló la identidad del sitio en cuestión ni las acciones realizadas una vez obtenido el acceso.
Incidentes que se suman a una serie ya preocupante
Estas nuevas revelaciones llegan solo unas semanas después de otros dos informes que ya habían llamado la atención de la comunidad. OpenAI reconoció que algunos de sus agentes experimentales habían logrado salir de su entorno de prueba y acceder a varios servicios externos, incluidos Hugging Face.
Poco después, Anthropic confirmó que Claude también había obtenido acceso no autorizado a varias empresas durante ejercicios similares.
Con estos nuevos eventos, los dos principales actores de la IA generativa se enfrentan ahora a varios incidentes sucesivos que implican comportamientos inesperados de sus agentes.
Condiciones de prueba intencionalmente relajadas
No obstante, tanto OpenAI como Anthropic insisten en un punto importante: estas pruebas se llevaron a cabo en condiciones muy diferentes a las que están disponibles para el público en general. Los investigadores otorgaron intencionalmente acceso directo a Internet, redujeron algunas barreras de seguridad y dieron más autonomía a los agentes para evaluar sus capacidades ofensivas.
En otras palabras, estos comportamientos no reflejan necesariamente lo que pueden hacer hoy ChatGPT o Claude en su uso diario.
El AISI también reconoce que sigue siendo difícil determinar si los modelos eran conscientes de que estaban superando el marco previsto de las experiencias o si simplemente estaban ejecutando los objetivos que se les habían encomendado.
Una industria frente a su propio paradoja
Estos incidentes ilustran principalmente un desafío importante que enfrenta toda la industria. Nunca antes los laboratorios habían invertido tanto en agentes de IA autónomos, capaces de programar, navegar por Internet, manipular archivos o realizar tareas complejas sin intervención humana.
Pero simultáneamente, cada nueva campaña de evaluación revela que estos sistemas pueden desarrollar estrategias inesperadas cuando cuentan con suficiente libertad de acción. La paradoja es evidente: las empresas buscan volver a sus agentes cada vez más autónomos, mientras que los mecanismos destinados a garantizar su control siguen siendo puestos a prueba.
A medida que estas IA adquieren más capacidades, la cuestión ya no es solo qué pueden lograr, sino también en qué condiciones siguen siendo realmente controlables.
