Google alerte : des hackers « augmentent » leurs attaques avec Gemini — et l’IA accélère surtout ce qui faisait déjà mal
Se ha reducido la cibercriminalidad impulsada por IA a una caricatura: correos de phishing mejor redactados, estafas más « limpias », con gramática menos defectuosa. Google nos recuerda que la realidad es más amplia y preocupante.
En un nuevo informe del Google Threat Intelligence Group (GTIG), la empresa informa haber observado grupos vinculados a estados utilizar Gemini a lo largo de diversas operaciones: desde el reconocimiento hasta el post-compromiso, incluyendo traducción, asistencia en la codificación, pruebas de vulnerabilidades y depuración cuando una herramienta falla durante una intrusión.
Una IA que no « reinventa » los ataques, sino que los hace más rápidos
La visión de Google es clara: la IA no crea magia negra, sino que reduce las fricciones. Los atacantes ya realizaban labores de inteligencia, redactaban cebos, modificaban scripts, corregían errores, traducían contenidos y adaptaban su narrativa a sus objetivos.
Gemini simplemente les permite iterar más rápido, con menos pausas y menor coste cognitivo.
Ahí es donde el riesgo cambia de escala: aunque la táctica se mantenga « antigua », el ritmo cambia. Menos tiempo entre una primera señal débil y una acción concreta, lo que significa menos margen para la defensa para detectar, corregir e aislar.
Los actores mencionados: China, Irán, Corea del Norte, Rusia
Google afirma haber identificado usos atribuidos a grupos vinculados a China, Irán, Corea del Norte y Rusia, con solicitudes que incluyen:
- perfilado de objetivos y síntesis de OSINT
- redacción y adaptación de « ingeniería social »
- traducción (y reescritura en un tono local)
- asistencia en el desarrollo y corrección de código
- escenarios de pruebas de vulnerabilidades – planes de validación
- depuración de herramientas durante una intrusión
Un ejemplo significativo: se afirma que actores chinos utilizaron una postura de « experto en ciberseguridad » para que Gemini automatizara el análisis de vulnerabilidades y produjera planes de prueba en un escenario ficticio.
En el caso de Corea del Norte, GTIG menciona el uso de Gemini para perfilar objetivos y apoyar en la planificación de campañas.
El segundo frente: « robar » un modelo por extracción y destilación
La historia se vuelve aún más estratégica cuando Google habla de otro tipo de abuso, menos « ciberataque clásico » y más guerra económica: la extracción de modelos/destilación de conocimientos.
El principio es: actores con acceso API legítimo bombardean el modelo con consultas para reproducir su comportamiento, y luego entrenan otro sistema que imita sus respuestas, patrones y su « lógica ». Google dice haber observado y bloqueado campañas de destilación, incluyendo una que implicaba más de 100,000 prompts destinadas a replicar el rendimiento en tareas en idiomas no ingleses.
Google enfatiza: este tipo de ataque afecta principalmente a los editores de modelos (PI, coste, ventaja competitiva), en lugar del usuario final. Pero a gran escala, el tema se vuelve explosivo: cuanto más fácil sea clonar, más se llenará el ecosistema de « IA de segunda mano », a veces mal aseguradas, a veces vendidas o desviadas.
Lo que Google dice hacer: desactivación, endurecimiento, detección específica
La respuesta oficial se basa en tres ejes: eliminación de cuentas e infraestructuras relacionadas con abusos documentados, refuerzo de los clasificadores de Gemini y pruebas continuas de las barreras de seguridad. Sin embargo, lo implícito es que la IA ahora es una herramienta « estándar » en operaciones ofensivas — exactamente como lo fueron el OSINT, los frameworks de explotación o los kits de phishing en el pasado.
La consecuencia: los manuales de explotación SOC deben ser pensados para el ritmo. No solo « detectar », sino reaccionar más rápido: segmentación, bloqueo de identidades, rotación de secretos, endurecimiento de accesos y vigilancia de flujos de trabajo donde el atacante puede ganar tiempo.
