Como detectar si el texto que estas leyendo lo escribio una maquina

El detector IA contenido se ha convertido en una de las búsquedas más frecuentes de los últimos dos años, y tiene todo el sentido: la cantidad de texto generado por inteligencia artificial que circula por internet ha crecido de forma exponencial. Blogs, noticias, correos, trabajos universitarios, informes corporativos… La pregunta ya no es si la IA escribe, sino si somos capaces de darnos cuenta cuando lo hace.

El problema que nadie sabía que iba a tener

Cuando ChatGPT se popularizó a finales de 2022, la reacción inmediata de muchos fue de asombro. Después vino la pregunta inevitable: ¿cómo sé si lo que estoy leyendo lo escribió un humano o una máquina?

Profesores, editores, periodistas, directores de recursos humanos, clientes que encargan textos a freelancers… De repente, todo un ecosistema de personas que trabaja con texto escrito se encontró ante un problema nuevo. Y la industria respondió rápido, quizás demasiado rápido.

Aparecieron decenas de herramientas que prometían detectar contenido generado por IA con una precisión casi forense. GPTZero, Copyleaks, Originality.ai, el propio detector de OpenAI (que acabaron retirando por su escasa fiabilidad)… La carrera estaba en marcha. Pero, ¿realmente funcionan?

Cómo intentan detectar la IA los detectores de IA

Para entender por qué esto es tan difícil, hay que asomarse un momento al funcionamiento de los modelos de lenguaje. Cuando una IA genera texto, escoge en cada paso la palabra o token más probable dado el contexto anterior. No «piensa» en el sentido humano: calcula probabilidades.

Los detectores aprovechan esto. Miden dos métricas principales:

• Perplejidad: cuánto «sorprende» el texto a un modelo de lenguaje. Si el texto es muy predecible para la IA, probablemente lo escribió una IA.
• Burstiness: la variabilidad en la longitud y complejidad de las frases. Los humanos tendemos a mezclar frases cortas y largas de forma irregular. La IA suele ser más uniforme.

El razonamiento es elegante. El problema es que en la práctica se rompe con bastante facilidad. Un humano que escribe de forma muy metódica puede parecer una máquina. Una IA a la que se le pide que varíe el estilo puede parecer un humano. Y ahí empieza el caos.

Algo parecido ocurre en otros ámbitos donde la tecnología promete detectar lo que no podemos ver a simple vista: los sistemas de reconocimiento biométrico también prometían una precisión casi mágica, y también tienen sus puntos ciegos.

Las señales que puedes buscar tú mismo

Antes de hablar de herramientas, vale la pena mencionar algo: con práctica, el ojo humano puede detectar muchos textos de IA. No todos, pero sí los más descuidados. Hay patrones que se repiten.

Frases de apertura grandilocuentes

La IA tiene una debilidad notable por empezar párrafos con frases del tipo «En el complejo panorama actual…» o «En un mundo cada vez más interconectado…». Son frases que suenan importantes pero no dicen nada. Los humanos que escriben con intención suelen ir más al grano.

Estructura demasiado perfecta

Introducción, tres puntos con subtítulo, conclusión. Siempre. Si el texto tiene una arquitectura tan ordenada que parece un PowerPoint convertido en prosa, sospecha. La escritura humana tiene más irregularidades, desvíos, tangentes.

Ausencia de opinión real

Los modelos de lenguaje tienden a presentar «los dos lados» de todo, sin comprometerse nunca con una posición concreta. Es una cautela entrenada. Si el texto habla de algo polémico pero nunca molesta a nadie, puede ser una señal.

Ejemplos genéricos

Cuando la IA necesita un ejemplo, suele recurrir a los mismos de siempre: «imagina que eres médico y tienes que decidir…», «piensa en una empresa de software en crecimiento…». Raramente hay anécdotas concretas, nombres reales, detalles verificables.

El adjetivo «crucial»

Esto puede sonar a broma, pero hay palabras que la IA usa en exceso: «crucial», «fundamental», «robusto», «matizado», «complejo ecosistema». Si aparecen varias en el mismo texto, activa la antena.

Las herramientas de detección: qué funcionan y qué no

Volvamos a los detectores automáticos, porque merecen un análisis honesto. Ninguna herramienta actual es fiable al cien por cien, y esto no es opinión: está documentado en varios estudios académicos.

Un trabajo publicado en 2023 por investigadores de la Universidad de Maryland demostró que la mayoría de los detectores populares fallan de forma preocupante ante dos escenarios: textos escritos por hablantes no nativos de inglés (que a menudo son marcados erróneamente como IA por su estructura más rígida) y textos de IA ligeramente editados por humanos.

OpenAI llegó a lanzar su propio clasificador en enero de 2023 y lo retiró seis meses después, reconociendo abiertamente que su tasa de error era demasiado alta para ser útil. Eso, viniendo de la empresa que fabrica el modelo que todos intentan detectar, dice mucho.

No es tan distinto de lo que pasa cuando un algoritmo toma decisiones sobre personas sin que nadie pueda auditarlo de verdad: el problema no es solo técnico, es también de rendición de cuentas.

Dicho esto, algunas herramientas tienen mejor reputación que otras para casos específicos:

• GPTZero: popular en entornos académicos, aunque con falsos positivos notables.
• Originality.ai: orientada a agencias de contenido, incluye detección de plagio.
• Copyleaks: afirma tener en cuenta el contexto idiomático, aunque sus resultados son también cuestionados.
• Binoculars: una propuesta de investigadores académicos que usa un enfoque diferente comparando dos modelos entre sí, con resultados prometedores en laboratorio.

El problema común a todas es el mismo: la IA mejora más rápido de lo que mejoran los detectores. Es una carrera armamentística donde quien fabrica el arma también fabrica el escudo, y los dos están en el mismo laboratorio.

El juego del gato y el ratón: evasión de detección

Si los detectores tienen fallos, los métodos para evadirlos también existen y están al alcance de cualquiera. Esto es relevante porque cambia completamente el tipo de problema que tenemos entre manos.

Algunas técnicas documentadas de evasión incluyen pedir a la IA que «escriba como si fuera humano», usar herramientas de parafraseo posteriores (Quillbot, por ejemplo, es famoso en este circuito), o mezclar texto generado con ediciones manuales. El resultado puede engañar a cualquier detector actual.

Hay un experimento interesante que puedes hacer: toma un texto de IA, pídele a un corrector humano que lo reescriba ligeramente, y pásalo por un detector. En la mayoría de casos, el detector lo marcará como humano. Eso debería hacernos reflexionar sobre qué estamos midiendo exactamente.

Esta dinámica de tecnología que promete seguridad pero tiene puertas por las que se cuela lo que quiere evitar no es nueva. Las vulnerabilidades que se abren por diseño tienen una historia más larga de lo que parece.

El problema de los falsos positivos: cuando acusan al inocente

Hay una dimensión del debate que suele quedar en segundo plano y es, quizás, la más urgente. Los detectores no solo fallan al detectar IA: también acusan a humanos de ser máquinas.

Se han documentado casos de estudiantes universitarios acusados de usar ChatGPT cuando sus trabajos eran originales. Algunos lo perdieron todo: notas, becas, expedientes limpios. Las universidades que usaron detectores como prueba de cargo los estaban tratando como si fueran infalibles cuando claramente no lo son.

El sesgo contra los hablantes no nativos es especialmente grave. Alguien que escribe en inglés como segunda o tercera lengua tiende a usar estructuras más sencillas, vocabulario más limitado y frases más uniformes. Eso, para un detector de IA, es exactamente el perfil de un modelo de lenguaje. El resultado es una discriminación encubierta que nadie diseñó pero que ocurre igual.

Este tipo de consecuencias no intencionadas de los sistemas automáticos de clasificación no son exclusivas del mundo del texto. La tecnología lleva décadas probando cosas sobre personas sin que esas personas fueran completamente conscientes de ello.

¿Importa realmente si lo escribió una máquina?

Aquí viene la pregunta que incomoda un poco. Asumamos que existe un detector perfecto, con cero falsos positivos y cero falsos negativos. ¿Qué cambia exactamente?

Depende del contexto, y mucho. Un trabajo universitario presentado como propio tiene unas reglas claras: debe reflejar el aprendizaje del estudiante. Ahí sí importa. Un artículo informativo que contiene datos correctos y bien explicados, ¿importa quién o qué lo redactó? Hay respuestas razonables en ambos sentidos.

La cuestión de fondo es de confianza y de autoría. Cuando leemos algo, asumimos que hay una mente detrás, que alguien se ha responsabilizado de lo que dice. La IA disuelve esa responsabilidad de una forma que todavía no hemos procesado del todo como sociedad.

Hay algo inquietante en la idea de que la mayor parte del contenido que consumimos pueda haber sido generado por sistemas que no tienen ninguna experiencia real del mundo que describen. Eso conecta directamente con una pregunta más amplia que lleva tiempo rondando los márgenes de internet: ¿cuánto de lo que leemos tiene detrás a alguien real?

Consejos prácticos si necesitas usar un detector IA contenido

Si tu trabajo te obliga a evaluar si un texto es o no de IA, aquí van algunas recomendaciones concretas basadas en lo que sabemos:

• Nunca uses un solo detector. Pasa el mismo texto por tres herramientas distintas y compara. Si las conclusiones divergen, la incertidumbre es real.
• No tomes el resultado como prueba definitiva. Úsalo como una señal de alerta que justifica una revisión más cuidadosa, no como sentencia.
• Complementa con lectura humana. Las señales estilísticas mencionadas antes siguen siendo útiles.
• Considera el contexto. Un texto técnico y muy estructurado puede parecer IA sin serlo. Un texto de opinión con errores tipográficos puede ser IA con edición posterior.
• Si el texto no tiene errores, no tiene voz propia y no dice nada que moleste a nadie, ya tienes tres señales de alarma a la vez.

Y si eres tú quien usa IA para escribir, lo más honesto es decirlo. No porque sea ilegal (en la mayoría de contextos no lo es), sino porque la transparencia es lo que diferencia el uso responsable del engaño. Una cosa es apoyarte en una herramienta y otra es hacer pasar su trabajo como tuyo.

La forma en que fluye la información, quién la genera y quién la controla tiene implicaciones que van mucho más allá de un blog o un trabajo de clase. La infraestructura que mueve todo ese contenido también tiene sus propios dueños e intereses.

¿Llegaremos a no poder distinguir nunca más lo humano de lo artificial?

La pregunta no es retórica. A medida que los modelos de lenguaje mejoran, el texto que producen se vuelve más idiomático, más irregular, más «humano» en todos los sentidos estadísticos que los detectores miden. El test de Turing, que Alan Turing formuló en 1950 como una frontera hipotética, ya no es exactamente una frontera: en muchos contextos, los modelos actuales lo superan sin dificultad.

Quizás la pregunta correcta no sea «¿cómo detecto si esto lo escribió una IA?» sino algo más incómoda: ¿qué significa para nosotros que ya no podamos saberlo con certeza? ¿Cambia el valor de un texto que nos emociona si descubrimos que lo generó un algoritmo? ¿Cambia la responsabilidad de quien lo publica?

Los detectores son una respuesta técnica a un problema que en el fondo es filosófico y cultural. Pueden ayudar en casos concretos, pero no van a resolver la pregunta de fondo. Esa la tenemos que responder nosotros.

Preguntas frecuentes