X endurece las reglas de Grok: Fin de los deepfakes no consentidos (o casi)
X ha actualizado de forma urgente la política de imágenes de Grok, tras semanas de polémica sobre el uso indebido que permite sexualizar fotos de personas reales.
Sobre el papel, la plataforma ha anunciado ahora medidas técnicas para impedir la edición de imágenes de personas reales en escenarios « reveladores », ha añadido geobloqueo donde la práctica es ilegal y ha limitado la generación/edición de imágenes a suscriptores de pago.
Sin embargo, varias pruebas sugieren que las salvaguardias son eludibles.
Una actualización « de seguridad » forzada por la realidad (y por los reguladores)
Esta decisión llega tras una creciente presión multifacética:
- Reino Unido: el regulador Ofcom ha abierto una investigación formal bajo la Ley de Seguridad en Línea para evaluar si X ha cumplido con sus obligaciones de protección contra contenidos ilegales.
- Asia del Sur: India y Malasia han anunciado medidas de bloqueo/restringido contra Grok, lo que ha acelerado la crisis de reputación.
- Tiendas de aplicaciones: grupos de defensa (y, por separado, legisladores estadounidenses) piden a Apple y Google que retiren X/Grok de las tiendas, argumentando que el ecosistema facilita la difusión de contenidos no consensuados.
Ya no es un debate abstracto sobre « los riesgos de los deepfakes »: es un caso práctico donde una funcionalidad de edición de imágenes, desplegada a gran escala, se ha enfrentado a la realidad social y legal.
https://t.co/awlfMjX6FS
— Safety (@Safety) 14 de enero de 2026
Lo que X cambia concretamente: restricciones, suscripciones, geografías
Los anuncios comunicados por X (y recogidos por varios medios) se articulan en torno a tres ejes:
- Prohibición específica: evitar que Grok edite imágenes de personas reales para colocarlas en escenarios sexualizados.
- Geobloqueo: desactivar esas capacidades en los países donde son ilegales, en lugar de aplicar una regla universal igual en todas partes.
- Acceso de pago: limitar la creación y edición de imágenes a suscriptores (X presenta esto como un medio para aumentar la « responsabilidad »).
Sobre el papel, es una red de seguridad más densa. En la práctica, la pregunta es: ¿es realmente impermeable?
Problema: « corregido » no significa « resuelto »
La historia se complica aquí. The Verge informa haber podido eludir algunas protecciones y obtener resultados problemáticos a pesar de los anuncios, lo que debilita la promesa de « bloqueo » y refuerza la idea de que el desafío es tanto técnico como de producto (UI, fricción, límites de uso, detección, aplicación).
Y esta es, en última instancia, la lección central: en las herramientas generativas, la brecha entre una regla y su aplicación efectiva es precisamente donde surgen los escándalos.
La batalla ya no es « IA contra IA », sino « producto contra gobernanza »
Este asunto pone a X frente a una contradicción estructural. Cuanto más Grok se convierte en una máquina creativa integrada en una red social, más cada fallo se convierte en amplificación viral. La respuesta de « muro de pago + geobloqueo » se parece menos a una elección de diseño que a una estrategia de reducción de riesgos: segmentar el acceso, limitar la exposición legal, calmar las tiendas de aplicaciones, tranquilizar a los reguladores.
Sin embargo, la trayectoria es clara: la IA generativa ya no es solo una innovación. Es un servicio de alto riesgo que requiere los mismos reflejos que la seguridad informática: defensa en profundidad, auditorías, pruebas de ataque, trazabilidad y sanciones coherentes.
A corto plazo, X está jugando a esperar. A medio plazo, la investigación de Ofcom y la presión de las tiendas podrían convertirse en los verdaderos árbitros, mucho más que los comunicados.
