Por qué detectar IA es más difícil de lo que parece
Empecemos por el fondo del asunto. Un modelo de lenguaje se entrena para producir texto que sea indistinguible del texto humano. Ese es literalmente el objetivo de la función de pérdida durante el entrenamiento: minimizar la diferencia entre lo que el modelo genera y lo que escribiría una persona.
Detectar la salida de ese sistema es, por tanto, intentar ganar una carrera contra un proceso diseñado explícitamente para que pierdas. Y cada versión nueva del modelo aprieta un poco más esa tuerca.
Hay una segunda complicación que se menciona todavía menos: el texto que se quiere detectar rara vez es salida pura de un modelo. La gente genera, edita, corta, reescribe frases, mezcla párrafos propios. Un detector entrenado con salidas limpias del modelo se enfrenta en la práctica a textos híbridos, y ahí su rendimiento cae en picado.
La pregunta útil no es «¿esto lo escribió una IA?» sino «¿qué grado de confianza tengo, y qué decisión voy a tomar con ella?». Un 85% de un detector no significa que haya un 85% de probabilidad de que sea IA. Significa que un modelo estadístico ha asignado esa puntuación según sus criterios internos, que no conoces.
Cómo funcionan por dentro: perplejidad y burstiness
La mayoría de detectores clásicos se apoyan en dos métricas. Merece la pena entenderlas porque explican tanto sus aciertos como sus fallos.
Perplejidad
La perplejidad mide cuán sorprendente resulta un texto para un modelo de lenguaje. Si el modelo puede predecir con facilidad cuál será la siguiente palabra, la perplejidad es baja. Si el texto le sorprende constantemente, es alta.
La lógica del detector es sencilla: un texto generado por IA tiende a tener perplejidad baja, porque el modelo escoge en cada paso palabras estadísticamente probables. Un humano, en cambio, hace elecciones más raras.
Fíjate en el segundo punto, porque tiene consecuencias serias. Varios estudios han mostrado que los detectores marcan desproporcionadamente como IA los textos escritos por personas que no tienen el idioma como lengua materna. No porque hagan trampas, sino porque escriben con estructuras más regulares y léxico más frecuente — exactamente el perfil estadístico que el detector asocia con una máquina.
Burstiness
La burstiness mide la variación en la longitud y complejidad de las frases. La escritura humana es irregular: una frase de treinta palabras, luego una de cuatro. Los modelos tienden a producir un ritmo más uniforme.
Es una señal real, pero débil y fácil de neutralizar. Basta pedirle al modelo que varíe la longitud de las frases, o editar un poco el texto a mano, para que la métrica se descoloque.
Las señales que circulan por internet (y por qué caducan)
Cada pocos meses aparece una lista viral de «palabras que delatan a ChatGPT». Ciertos adverbios, ciertas estructuras de tres elementos, ciertos signos de puntuación. Funcionan durante un tiempo y luego dejan de funcionar, por tres motivos:
- Se difunden. En cuanto una señal se hace conocida, quien quiere ocultar el uso de IA la elimina. La señal se autodestruye por popularidad.
- Los modelos cambian. Cada versión nueva altera el perfil estilístico. Las listas hechas para una generación de modelos no describen la siguiente.
- Penalizan a humanos que escriben bien. Alguien que estructura sus textos con claridad, usa conectores correctamente y puntúa con precisión encaja en el perfil. Estás castigando el buen oficio.
Mucha gente ha empezado a evitar guiones largos, listas de tres o ciertas palabras en su propia escritura para no «parecer IA». El resultado es que la escritura humana se está deformando para huir de un detector que no funciona bien. Eso es un coste cultural real de una herramienta poco fiable.
El coste asimétrico de los falsos positivos
Aquí está el argumento más importante del artículo, y el que menos se hace.
En detección de IA, los dos tipos de error no cuestan lo mismo. Un falso negativo —dejar pasar un texto generado— tiene un coste bajo y difuso. Un falso positivo —acusar a alguien que escribió su propio texto— puede costarle a esa persona una asignatura, un trabajo o su reputación profesional.
→ Sin proceso, sin defensa, sin evidencia adicional
→ El error recae íntegramente sobre el acusado
→ Conversación, preguntas sobre el contenido, historial de versiones
→ La decisión se apoya en evidencia de proceso, no en un número
Con tasas de error significativas y millones de textos evaluados, el número absoluto de personas acusadas injustamente no es despreciable. Por eso varias universidades y plataformas han ido retirando o desactivando estas herramientas de sus procesos disciplinarios.
Watermarking: la alternativa técnicamente seria
Hay un enfoque distinto que no intenta adivinar a posteriori, sino marcar el texto en el momento de generarlo.
La idea del watermarking: durante la generación, el modelo divide el vocabulario en dos grupos según una función criptográfica y sesga ligeramente sus elecciones hacia uno de ellos. El sesgo es demasiado sutil para notarse al leer, pero deja una firma estadística detectable si conoces la clave.
| Enfoque | Ventaja | Límite principal |
|---|---|---|
| Detector estadístico | Funciona sobre cualquier texto, sin cooperación | Tasas de error altas, especialmente con texto editado |
| Listas de señales | Gratis, intuitivo | Caduca rápido, sesgo contra buenos escritores |
| Watermarking | Mucho más fiable estadísticamente | Requiere que el proveedor lo implemente; frágil ante paráfrasis |
| Evidencia de proceso | Robusta, no depende del texto final | Exige cambiar el flujo de trabajo, no es automatizable |
El watermarking tiene dos problemas prácticos. El primero es de coordinación: solo funciona si los proveedores de modelos lo implementan, y los modelos abiertos que cualquiera puede ejecutar en su ordenador nunca lo tendrán. El segundo es técnico: pasar el texto por otro modelo para parafrasearlo destruye buena parte de la marca.
Qué sí funciona: dejar de mirar el texto
La conclusión a la que están llegando las instituciones que se toman esto en serio es incómoda pero clara: el texto final no contiene información suficiente para decidir con fiabilidad. Si necesitas certeza, tienes que mirar a otra parte.
Evidencia de proceso
- Historial de versiones. Un documento escrito por una persona tiene un rastro de edición: párrafos que crecen, frases reescritas, ideas abandonadas. Un texto pegado de golpe aparece completo en una sola revisión.
- Borradores y notas previas. El material de trabajo anterior al texto final es difícil de fabricar a posteriori.
- Capacidad de defender el contenido. Una conversación de cinco minutos sobre por qué se tomó una decisión argumental concreta es más informativa que cualquier detector.
Rediseñar la tarea
La otra vía, más profunda, es aceptar que si una tarea puede resolverse íntegramente con un modelo de lenguaje en treinta segundos, quizá el problema esté en la tarea. Evaluaciones que exigen experiencia personal, datos concretos de un contexto específico, defensa oral o iteración documentada resisten mucho mejor.
Un resultado de detector no es una prueba. Lo más eficaz es aportar evidencia de proceso: historial de versiones del documento, borradores, notas de investigación, y capacidad de explicar el contenido en detalle. Y conviene señalar, con datos, que la herramienta usada tiene tasas de error documentadas — la carga de la prueba no debería recaer sobre ti por un porcentaje generado automáticamente.
Preguntas frecuentes
¿Funcionan los detectores de texto generado por IA?
De forma limitada y poco fiable. Tienen tasas de error significativas en ambas direcciones: marcan texto humano como IA y dejan pasar texto generado, sobre todo si ha sido editado. No deben usarse como prueba única para decisiones con consecuencias.
¿Qué es la perplejidad y por qué se usa para detectar IA?
Mide cuán predecible es un texto para un modelo. El texto de IA suele tener perplejidad baja porque el modelo elige palabras probables. El problema es que la escritura formal, técnica o de un hablante no nativo también la tiene baja, lo que genera falsos positivos.
¿Sirven las señales como los guiones largos o ciertas palabras?
Cada vez menos. Se difunden rápido, la gente aprende a evitarlas y los modelos cambian con cada versión. Además penalizan injustamente a quien escribe de forma estructurada de manera natural.
¿Qué es el watermarking en modelos de lenguaje?
El modelo sesga sutilmente su elección de palabras siguiendo un patrón criptográfico verificable después. Es más robusto que la detección posterior, pero requiere que el proveedor lo implemente y sobrevive mal a la paráfrasis.
¿Qué hago si me acusan injustamente de usar IA?
Aporta evidencia de proceso: historial de versiones, borradores previos, notas, y demuestra que puedes explicar y defender el contenido en profundidad. Un porcentaje de un detector no es una prueba.
La detección de texto generado por IA es un problema que probablemente no tenga una solución técnica limpia. La tecnología que genera y la que detecta están en una carrera donde la primera tiene ventaja estructural. Eso no significa rendirse: significa dejar de buscar la respuesta en el texto y buscarla en el proceso, en el contexto y en la conversación. Es más lento y menos automatizable. También es lo único que funciona.