Una herramienta de código abierto quiere eliminar las marcas de agua de ChatGPT, Gemini y Claude: la batalla por la trazabilidad de la IA comienza
A medida que los gigantes de la IA buscan hacer que su contenido sea más fácilmente identificable, desarrolladores trabajan en la dirección opuesta. Un proyecto de código abierto llamado watermarks-remover promete eliminar o perturbar varias formas de marcadores asociados a los contenidos generados por inteligencia artificial, desde las metadatas tradicionales hasta las firmas estadísticas integradas en el texto.
A través de esta herramienta experimental se plantea un problema mucho más amplio: el origen de los contenidos generados por IA podría convertirse rápidamente en un nuevo juego del gato y el ratón.
Una herramienta diseñada para abordar múltiples tipos de marcas de agua
Disponible en GitHub, watermarks-remover no se limita a buscar un logo o una mención de “generado por IA”. El proyecto distingue varias categorías de señales. Puede, por ejemplo, detectar o eliminar ciertos caracteres Unicode invisibles, limpiar información integrada en archivos y tratar de perturbar firmas estadísticas presentes en texto generado.
Su ámbito de acción cubre muchos formatos: PNG, JPEG, SVG, PDF, DOCX, ODT, HTML y Markdown. La limpieza de archivos puede incluir información EXIF, XMP, ciertas propiedades de documentos o datos de origen como C2PA.
Sin embargo, todas estas técnicas no presentan el mismo nivel de dificultad.
Borrar una metadata es fácil, romper una firma estadística es otra historia
Una metadata es relativamente fácil de comprender. Corresponde a una información adjunta al archivo, sin necesariamente modificar su contenido visible. Una firma estadística, en cambio, funciona de manera diferente.
Ciertos mecanismos experimentales de marca de agua pueden aprovechar las elecciones realizadas por un modelo al generar las palabras. A nivel individual, estas elecciones pueden parecer naturales. Sin embargo, a gran escala, su distribución puede formar un patrón estadístico detectable.
En este caso, eliminar la firma implica potencialmente modificar el texto mismo.
La versión 0.3.1 de watermarks-remover adopta precisamente un enfoque más avanzado: puede reestructurar el vocabulario, las transiciones y la construcción de las frases para perturbar las regularidades estadísticas que pueden servir de firma.
El desarrollador también afirma haber ampliado la compatibilidad con marcadores asociados a varios grandes ecosistemas de IA.
Reescribir el texto introduce inevitablemente un compromiso
Sin embargo, este enfoque tiene una limitación fundamental: cuanto más se deba transformar un texto, más se alejará del original. Cambiar algunos sinónimos es relativamente sencillo. Sin embargo, modificar el orden de las proposiciones, las transiciones, la sintaxis y el vocabulario puede afectar el tono, la precisión e incluso ciertas matices.
La documentación del proyecto reconoce esta debilidad.
En otras palabras, no se trata de un botón mágico que permita conservar un documento perfectamente intacto mientras se elimina su origen. Para ciertas categorías de marcadores, el costo de la eliminación puede ser una alteración del contenido mismo.
Y esto no significa que los detectores de IA se vuelvan innecesarios
El desarrollador tampoco pretende poder neutralizar sistemáticamente todos los sistemas de detección. Presenta la reescritura como un enfoque de mejor esfuerzo. Algunos señales pueden permanecer y no hay garantías de que un sistema propietario no pueda identificar el contenido.
Esta matiz es esencial, ya que no existe un único «filigrana IA» universal.
Las técnicas pueden variar considerablemente: metadatas, firmas criptográficas de origen, caracteres especiales, distribuciones estadísticas o mecanismos propios de un modelo. Eliminar una categoría de señales no significa necesariamente eliminar todas las posibles evidencias.
El proyecto también afirma perseguir objetivos de investigación y confidencialidad, y no permitir presentar fraudulosamente contenido generado por IA como una creación completamente humana.
C2PA ilustra perfectamente las limitaciones del watermarking
El caso de C2PA es particularmente interesante. A diferencia de una marca de agua visual tradicional, C2PA busca establecer una cadena de origen que permita documentar la procedencia y las transformaciones de un contenido digital.
Eliminar cierta información adjunta a un archivo no necesariamente implica crear una procedencia auténtica diferente. Puede simplemente romper o hacer desaparecer una parte de esta cadena.
La distinción será determinante para las futuras plataformas de verificación: la ausencia de una prueba de origen no es una prueba de origen humano. Este es probablemente uno de los principios que deberán guiar los sistemas de confianza digital en el futuro.
La procedencia de la IA entra en una carrera de armamentos
La mera existencia de watermarks-remover es, al final, más interesante que sus capacidades actuales. Las empresas especializadas en IA están buscando desarrollar sistemas capaces de indicar que una imagen, texto o documento proviene de un modelo generativo. Al mismo tiempo, aparecen herramientas para estudiar, modificar o eliminar estas señales.
Cada mecanismo de detección crea, por lo tanto, un incentivo para desarrollar un método de evasión. Y cada método de evasión podría, potencialmente, llevar a los proveedores a construir una firma más resistente.
El fenómeno recuerda las largas batallas entre DRM y herramientas de evasión, antispam y spammers, o antivirus y software maliciosos: una defensa estática rara vez funciona eternamente frente a un adversario capaz de adaptar su comportamiento.
El verdadero desafío va más allá de la detección de ChatGPT
A largo plazo, la pregunta podría ya no ser: «¿Podemos detectar que este texto fue escrito por una IA?». Con modelos capaces de imitar diferentes estilos y herramientas capaces de reescribir automáticamente sus producciones, atribuir un texto únicamente a partir de sus características estadísticas probablemente se volverá cada vez más complicado.
La industria podría entonces tener que cambiar su atención de la detección de contenido artificial hacia la prueba verificable de procedencia.
Es una diferencia fundamental. En lugar de intentar adivinar después si un documento proviene de una IA, se trataría de construir una cadena de confianza que permita demostrar cómo y con qué herramientas fue creado o modificado.
watermarks-remover sigue siendo hoy un proyecto experimental cuya eficacia depende en gran medida del tipo de marcador encontrado. Pero su aparición ya revela la próxima batalla de la IA generativa: después de aprender a crear contenido casi indistinguible del contenido humano, la industria ahora debe determinar cómo probar de dónde proviene lo que vemos, leemos y compartimos.
