Substack despliega un detector de IA para identificar los contenidos generados por chatbots
En un mundo donde los contenidos generados por inteligencia artificial están proliferando en la web, Substack busca proporcionar a los lectores una herramienta de transparencia. La plataforma de newsletters ha anunciado una colaboración con la empresa Pangram para integrar un sistema que puede estimar si un texto fue escrito por un humano o generado por IA.
Esta iniciativa, presentada por el CEO de Substack, Chris Best, tiene como objetivo combatir lo que él llama «Claudefishing», una práctica que consiste en publicar contenido en gran parte producido por modelos de inteligencia artificial, haciendo creer que ha sido redactado completamente por una persona.
Un botón para analizar el origen de un texto
Con esta nueva función, los lectores pueden analizar publicaciones, notas y respuestas en Substack. El sistema se basa en la tecnología desarrollada por Pangram, especializada en la detección de textos generados por inteligencia artificial.
El análisis está disponible para todos los contenidos que contengan más de 100 palabras y se publiquen a partir del 21 de julio. El resultado de la evaluación es estrictamente privado: solo el usuario que realiza el escaneo puede ver la evaluación.
Según Chris Best, ningún detector de IA es infalible. Sin embargo, afirma que Pangram muestra un alto nivel de precisión en varias evaluaciones independientes.
La funcionalidad ya está disponible en la versión web y en iOS, mientras que se prevé un despliegue en Android en el futuro.
Los autores también tienen nuevas herramientas
Substack no solo ofrece estas novedades para los lectores. Los creadores de contenido pueden ahora acompañar sus publicaciones con una sección titulada «¿Cómo hice esto?», en la que explican su método de trabajo y el papel que puede haber tenido la inteligencia artificial en la creación de sus textos.
Antes de publicar, los autores también pueden analizar sus borradores con Pangram para anticipar el resultado que verán los lectores.
En caso de que se considere un resultado erróneo, tienen la opción de reportar el resultado y solicitar su eliminación.
Substack también menciona varias evoluciones próximas, incluyendo preferencias sobre el uso de IA en las reglas de respuesta a las publicaciones y filtros que permiten a los lectores influir en las recomendaciones de contenido según su nivel de aceptación de los textos generados por IA.
Una respuesta a la proliferación de contenidos generados por IA
Según estimaciones citadas por Substack y Pangram, algunas redes sociales cuentan con hasta un 40 % de publicaciones completamente generadas por inteligencia artificial. Este aumento genera preocupaciones sobre la calidad del contenido, la autenticidad de las interacciones y la creciente dificultad para distinguir entre producciones humanas y textos automatizados.
Por lo tanto, el objetivo de Substack no es prohibir el uso de la IA, sino ofrecer mayor transparencia para que cada lector pueda formar su propia opinión.
Una tendencia que abarca todas las plataformas
Substack no es el único actor interesado en esta problemática. En los últimos meses, LinkedIn ha comenzado a limitar la visibilidad de ciertos contenidos considerados generados masivamente por inteligencia artificial. Por su parte, Meta también estaría desarrollando su propio sistema de detección, aunque aún no ha sido oficialmente lanzado.
Todas estas iniciativas reflejan una preocupación común: preservar la confianza de los usuarios en un entorno digital en el que los modelos generativos producen textos cada vez más convincentes.
La transparencia se convierte en un nuevo desafío estratégico
La llegada de estas herramientas representa un cambio significativo en cómo las plataformas abordan la inteligencia artificial. Después de una rápida adopción de tecnologías generativas, el desafío ya no es solo producir contenido más fácilmente, sino también informar claramente a los usuarios sobre su origen. Esta búsqueda de transparencia puede convertirse gradualmente en un criterio diferenciador entre las plataformas de publicación.
Sin embargo, persiste una pregunta esencial: ¿podrán los detectores de IA mantenerse al ritmo de los modelos que intentan identificar? A medida que los grandes modelos de lenguaje se vuelven más sofisticados, la frontera entre la escritura humana y la generación automática sigue difuminándose. En este contexto, las herramientas de detección deberán evolucionar tan rápido como las tecnologías que se supone que están monitoreando.
