El Instituto Tecnológico de Massachusetts recomendó a sus profesores no depender de los detectores de texto de IA, y Stanford y Harvard siguen el mismo camino. La evidencia muestra que estas herramientas fallan y sus errores recaen sobre los más vulnerables.
En el trasfondo subyace una hipocresía académica insólita: usar una herramienta de IA para perseguir el uso de herramientas de IA. Mientras tando, los humanos, expuestos a diario a la prosa de las máquinas, empezamos a escribir como ellas.
Cuando el algoritmo acusó a Cervantes
Por: Gabriel E. Levy B.
Desde la llegada de ChatGPT, como primer lenguaje generativo masivo de IA en noviembre de 2022, prácticamente todas las universidades en el planeta y redacciones de los medios de comunicación tradicionales, decidieron de forma apresurada y sin mayores evidencias sólidas o trabajo experimental de campo, implementar software y algoritmos que prometían y lo peor, siguen prometiendo, distinguir entre la prosa humana y los textos creados por los sistemas algorítmicos de Inteligencia Artificial de tecnología LLM o de grandes lenguajes generativos como es Chat GPT, Claude, Growk, Deepsearch o Gemini.
Generalmente, aunque no siempre funcionan así, estos programas arrojan un porcentaje de uso de la IA en un texto, y ese número, para muchísimos profesores alrededor del mundo, es el que define la sospecha en favor o en contra del estudiante, existiendo decenas de casos documentados de alumnos que fueron sancionados y expulsados por usarla y posteriormente demostraron en tribunales o en apelaciones, la imprecisión de estos sistemas, incluso muchos de ellos lograron probar que fueron ellos mismos los que escribieron el texto.
Posiblemente el caso más sonado en medios, de los múltiples errores que cometen estos sistemas, ocurrió en diciembre de 2024, el escritor de origen español: Pedro Torrijos: “Sometió el primer párrafo de El Quijote por un detector y obtuvo un veredicto insólito: 86% de probabilidad de ser obra de una inteligencia artificial”, es decir que según este tipo de programas de detección como Pangram o Copyleads, Cervantes habría usado hace más de 420 años atrás a Chat GPT o Gemini para escribir su obra. En sí mismo lo paradójico y a la vez ridículo del asunto, no es el hecho en sí mismo, sino que los profesores usen esa herramienta para decidir si un estudiante usó la IA en el aula de clases.
Pero este no es el único caso, pocos meses después, el divulgador Fernando Bujedo repitió el ejercicio con la herramienta JustDone y consiguió un 78% para Cervantes y un 89% para su propia tesis de máster, redactada en 2017, cuando la IA generativa no existía.
Pero sin duda el hecho más significativo es que todos los sistemas de detección como Pangram, Copyleads, ZeroGPT o JustDone y las mismas plataformas como Chat GPT o Claude, advierten en sus condiciones de uso que no garantizan sus resultados y que existe una alta probabilidad de error o fallo en sus detecciones y que no deben ser usados como criterio objetivo para determinar el uso de la IA, es decir que se definen a si mismas como herramientas de apoyo, más no de juicio.
Lo anterior nos arroja a una pregunta inevitable:
¿Puede una herramienta capaz de confundir a Cervantes con un chatbot decidir la suerte académica de un estudiante?
Dos advertencias desde Cambridge
En agosto de 2023, la unidad de tecnología educativa de MIT Sloan publicó una guía cuyo título no deja lugar a dudas: “los detectores de IA no funcionan y conviene hacer otra cosa”.
La académica especializada en algoritmos de lenguajes LLM, Anna Wright, documentó de forma extensa y con alto rigor académico, las altas tasas de error de estos programas, con evidencia clara y propuso un camino distinto con políticas concertadas en cada curso, diálogo con los estudiantes, tareas rediseñadas y relatos del proceso de escritura de cada trabajo.
Pero lo más importante y que mejor funciona, es pedir al estudiante que explique con sus propias palabras lo que aparece escrito en el texto, este método que no requiere contradictoriamente el uso de la misma tecnología que se busca castigar, pone en la mayoría de los casos en evidencia cuando el alumno fue perezoso y usó la IA para escribir y en el caso de que el estudiante se haya apropiado adecuadamente del conocimiento, significa que el propósito académico del aprendizaje si se cumplió.
Tres años más tarde, en agosto de 2026, el instituto fue más lejos.
Un comité especial encabezado por los profesores Eric Klopfer y Sam Madden, convocado por la rectora Sally Kornbluth, recomendó no apoyarse en estos sistemas porque alimentan una carrera armamentista con los llamados «humanizadores», servicios que borran las huellas de la IA.
El comité advirtió que estos programas confunden con frecuencia la escritura de hablantes no nativos de inglés y de estudiantes neurodivergentes, y el propio órgano disciplinario del MIT dejó de aceptar el puntaje de un detector como prueba suficiente de fraude.
El MIT no está solo y no es un caso aislado: el instituto de IA centrada en el humano de Stanford, uno de los más avanzados del mundo en el uso complejo y profundo de los lenguajes LLM, pidió no confiar en unos detectores que describe como poco fiables y fáciles de engañar, y la Facultad de Artes y Ciencias de Harvard calificó de imprudente apoyarse en la detección automática y se negó a licenciar una de estas herramientas para sus cursos.
Hay, además, una contradicción de fondo que ninguna actualización de software resuelve:
usamos una herramienta de automatización para detectar la automatización de un texto. Delegamos en un algoritmo la tarea de decidir si otro algoritmo escribió algo, y convertimos la sospecha en un trámite industrial que prescinde de la lectura atenta y de la voz del acusado.
La misma lógica que queríamos vigilar terminó administrando la vigilancia, y el juicio humano quedó reducido a validar el porcentaje que arroja una pantalla.
La incoherencia alcanza el terreno disciplinario: si un estudiante merece sanción por delegar su ensayo en la IA, el profesor que delega la evaluación en un detector incurre en la misma falta, pues también usó una herramienta para reemplazar su obligación académica, la de leer y juzgar el trabajo de sus alumnos.
La trampa de la perplejidad
Los detectores miden dos propiedades estadísticas del lenguaje.
La primera es la perplejidad, es decir, qué tan previsible resulta cada palabra. La segunda es la variación en la longitud y estructura de las oraciones, conocida en inglés como burstiness.
La prosa formal y codificada obtiene puntajes bajos de perplejidad y por eso se parece, a ojos del algoritmo, a la de un algoritmo de lenguaje LLM o de Inteligencia Artificial Generativa.
El periodista Benj Edwards demostró el fenómeno en Ars Technica en julio de 2023, cuando GPTZero atribuyó a la inteligencia artificial fragmentos de la Constitución de Estados Unidos.
Edward Tian, fundador de la empresa, explicó que ese documento aparece tantas veces en los datos de entrenamiento de los modelos que estos aprendieron a imitarlo.
Otro detector, ZeroGPT, le asignó a la Declaración de Independencia un 97,93% de probabilidad de ser artificial.
Las cifras confirman el patrón.
OpenAI cerró su propio clasificador en julio de 2023 tras admitir que identificaba apenas el 26% de los textos de IA y acusaba en falso al 9% de los humanos, y un equipo liderado por la investigadora Debora Weber-Wulff evaluó 14 herramientas sin que ninguna alcanzara el 80% de precisión.
Una imprecisión que discrimina
El costo de esos errores no se reparte por igual.
Un equipo de la Universidad de Stanford, con el profesor James Zou a la cabeza, publicó en julio de 2023 en la revista Patterns un experimento: pasó 91 ensayos del examen TOEFL, escritos por estudiantes no nativos de inglés, por siete detectores conocidos. Los programas marcaron en falso, en promedio, el 61,3% de los ensayos y una de las herramientas señaló casi el 98%.
Esos mismos sistemas acertaron en más del 90% con textos de estudiantes estadounidenses de octavo grado. La trampa estadística se repite: quien escribe en una segunda lengua usa vocabulario más común y frases más simples, y esa sencillez dispara la alarma.
El detector confunde dominio del idioma con autoría.
La Universidad de Vanderbilt apagó el detector de Turnitin en agosto de 2023 tras calcular que, con 75.000 trabajos anuales y una tasa de error del 1%, el programa podría señalar sin razón a unos 750 estudiantes. Turnitin y GPTZero defienden sus mejoras e insisten en que sus puntajes no prueban fraude, un matiz que no siempre sobrevive al llegar al aula.
El espejo invertido
La otra mitad de la historia ocurre en nuestro propio teclado. Mientras más texto de IA leemos, más se filtra su estilo en el nuestro.
El Instituto Max Planck para el Desarrollo Humano analizó más de 730.000 horas de charlas académicas y episodios de pódcast y encontró que, desde la aparición del chatbot, palabras favoritas del modelo ganaron terreno en el habla espontánea: «delve» (ahondar) creció un 48% y «meticulous» un 40%. En la escritura científica la huella es más honda.
Dmitry Kobak y su equipo revisaron más de 15 millones de resúmenes biomédicos y concluyeron en Science Advances que al menos el 13,5% de los publicados en 2024 pasó por un modelo de lenguaje, con picos del 40% en algunos campos.
Un estudio de la Universidad de Cornell mostró además que los asistentes de escritura empujan a autores de India hacia estilos occidentales y borran matices culturales. Hasta la puntuación entró en el pleito: el guion largo, querido por Dickinson y por Woolf, se volvió sospechoso de delatar a la IA y muchos escritores hoy lo evitan.
El círculo se cierra: los modelos aprendieron de la prosa humana y hoy la moldean, mientras la próxima generación de sistemas se entrenará con esa escritura uniformada.
En resumen, el MIT llegó a una conclusión tajante: los detectores de IA fallan demasiado para sostener una acusación y sus errores castigan a los más vulnerables. Cervantes señalado como chatbot retrata esa impotencia técnica mejor que cualquier estadística. El reto es cultural, porque la prosa de las máquinas ya contagia la nuestra, y queda flotando una duda incómoda: cuántos de nosotros escribimos ya, sin notarlo, como ella.
Referencias:
- Wright, A. (2023). AI detectors don’t work. Here’s what to do instead. MIT Sloan Teaching & Learning Technologies. https://mitsloanedtech.mit.edu/ai/teach/ai-detectors-dont-work/
- MIT Ad Hoc Committee on AI Use in Teaching, Learning, and Research Training. (2026). Report. Massachusetts Institute of Technology. https://aiandeducation.mit.edu/report/
- Edwards, B. (2023). Why AI detectors think the US Constitution was written by AI. Ars Technica. https://arstechnica.com/information-technology/2023/07/why-ai-detectors-think-the-us-constitution-was-written-by-ai/
- Liang, W., Yuksekgonul, M., Mao, Y., Wu, E. y Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779. https://doi.org/10.1016/j.patter.2023.100779
- Weber-Wulff, D., Anohina-Naumeca, A., Bjelobaba, S., Foltýnek, T., Guerrero-Dib, J., Popoola, O., Šigut, P. y Waddington, L. (2023). Testing of detection tools for AI-generated text. International Journal for Educational Integrity, 19(26). https://doi.org/10.1007/s40979-023-00146-z
- OpenAI. (2023). New AI classifier for indicating AI-written text. https://openai.com/index/new-ai-classifier-for-indicating-ai-written-text/
- Vanderbilt University. (2023). Guidance on AI detection and why we’re disabling Turnitin’s AI detector. https://www.vanderbilt.edu/brightspace/2023/08/16/guidance-on-ai-detection-and-why-were-disabling-turnitins-ai-detector/
- Yakura, H., Lopez-Lopez, E., Brinkmann, L., Serna, I., Gupta, P. y Rahwan, I. (2024). Empirical evidence of Large Language Model’s influence on human spoken communication. arXiv. https://arxiv.org/abs/2409.01754
- Kobak, D., González-Márquez, R., Horvát, E.-Á. y Lause, J. (2025). Delving into LLM-assisted writing in biomedical publications through excess vocabulary. Science Advances, 11(27). https://www.science.org/doi/10.1126/sciadv.adt3813
- Agarwal, D., Naaman, M. y Vashistha, A. (2025). AI suggestions homogenize writing toward Western styles and diminish cultural nuances. CHI 2025. https://dl.acm.org/doi/10.1145/3706598.3713564
- MuyComputer. (2024). Cervantes era una inteligencia artificial. https://www.muycomputer.com/2024/12/02/cervantes-era-una-inteligencia-artificial/
- Omnia. (2025). Pone a prueba un detector de plagios de IA y el resultado expone hasta a Cervantes. https://www.omnia.com.mx/noticia/363919
- Stanford HAI (Myers, A.). (2023). AI-detectors biased against non-native English writers. Stanford Institute for Human-Centered Artificial Intelligence. https://hai.stanford.edu/news/ai-detectors-biased-against-non-native-english-writers
- Harvard University, Office of Undergraduate Education. (2023). Generative AI guidance. Faculty of Arts and Sciences. https://oue.fas.harvard.edu/faculty-resources/generative-ai-guidance/
