Cómo detectar textos escritos con IA

La IA se ha abierto paso en todos los sectores: desde un amplio abanico de industrias, hasta la educación. Las inteligencias artificiales generativas como ChatGPT, Gemini, DeepSeek, Jasper AI, Copy AI, Rytr o Microsoft Copilot han tenido un efecto disruptivo en empresas y centros educativos. En este artículo daremos algunas claves para detectar textos escritos con IA, así como algunos recursos digitales para detectar la autoría de las IA principales.

Otros enlaces de interés: recursos digitales para el aprendizaje y la enseñanza del español

Textos coherentes pero sin profundidad

La IA generativa es capaz de escribir textos superficialmente coherentes, pero cuyo análisis carece de profundidad. Si el texto sospechoso repite constantemente ideas, frases o palabras clave de forma redundante sin aportar contenido, es posible que haya sido escrito por una inteligencia artificial.

Abuso de cierta fraseología

Expresiones como «en conclusión», «es importante destacar/mencionar», «por otro lado», «dicho de otro modo», «implica», «se caracteriza por», «fundamental», «si bien existen diferentes perspectivas», «en resumen», «para finalizar» son muy comunes.

A continuación, un extracto de un texto escrito por DeepSeek.

«Es importante destacar que, si bien es cierto que las IA pueden generar textos coherentes, en muchos casos suelen recurrir a frases repetitivas o estructuras predecibles. Además, cabe mencionar que el uso excesivo de conectores puede delatar su origen. En conclusión, aunque las IA son herramientas poderosas, es fundamental tener en cuenta sus limitaciones.»

Conectores que, en un texto humano ayudarían a mantener el orden y coherencia del texto, se repiten excesivamente, lo que resulta en un tono artificial y mecánico.

Falta de contexto específico y detalle

Los textos generados por IA tienden a ser abstractos, generales y evitan ofrecer detalles específicos para desarrollar ideas. No obstante, pueden introducir detalles anecdóticos si se le da la orden adecuada. Mostramos los siguientes textos de ChatGPT a modo de ejemplo:

Texto 1:

Cuando terminé una relación de varios años, recuerdo que al principio me sentí en una especie de limbo. Sabía que había pasado, pero una parte de mí esperaba que todo volviera a la normalidad. Me aferraba a la rutina, como si nada hubiera cambiado. Con el tiempo, entendí que lo que estaba viviendo era un proceso psicológico bien documentado: las fases del duelo tras una ruptura.

Texto 2:

Cuando era niño, una de mis mayores frustraciones era intentar sacar el ketchup de una botella de vidrio. Golpeaba el fondo con la mano, inclinaba la botella en distintos ángulos y, cuando finalmente salía, era un desastre: un chorro incontrolable de salsa inundaba mi plato. No entendía cómo algo podía estar tan atascado y luego salir de golpe. Muchos años después, descubrí que este fenómeno tenía una explicación científica: la reología de fluidos no newtonianos.

Respuestas demasiado detalladas

La IA ofrece respuestas muy completas, incluso cuando no se les pide tal nivel de detalle. A menudo, emplean bulletpoints (viñetas o puntos de enumeración) para estructurar la información, en lugar de organizarla en párrafos redactados.

Un ejemplo es la siguiente explicación resumida de Gemini del conflicto árabe-israelí:

El conflicto árabe-israelí es un conflicto complejo y de larga duración con raíces históricas, religiosas y políticas profundas. Aquí te presento las ideas clave para entenderlo:

Orígenes y causas:

• Nacionalismo y autodeterminación:
  • El sionismo, un movimiento nacionalista judío, buscaba establecer un Estado judío en la región histórica de Palestina.
  • El nacionalismo árabe también surgió en la región, con los palestinos buscando la autodeterminación y el fin del dominio colonial.
• Tierra y territorio:
  • La disputa central gira en torno a la tierra, con ambos pueblos reclamando derechos históricos y religiosos sobre la misma área.
  • La partición de Palestina por la ONU en 1947, que proponía la creación de dos Estados, uno árabe y otro judío, fue rechazada por los líderes árabes.
• Refugiados:
  • La creación del Estado de Israel en 1948 y las guerras posteriores generaron un gran número de refugiados palestinos, cuyo derecho al retorno es un punto de conflicto clave.
• Seguridad:
  • Israel considera su seguridad como una prioridad, dada la hostilidad de algunos de sus vecinos y grupos palestinos.
  • Los palestinos buscan el fin de la ocupación israelí y garantías de seguridad para su futuro Estado.

Sarcasmo e ironía

La IA tiene serios problemas para entender y reproducir el humor y la ironía. Incluso cuando se le pide expresamente, resulta demasiado forzado. Veamos este texto escrito por ChatGPT:

Ah, la inflación, esa vieja amiga que nadie invita a la fiesta, pero que igual se aparece y se come todo el aperitivo. Antes solía mirar los precios en el supermercado con cierta indiferencia, pero ahora es un deporte extremo. Un día, la leche cuesta 1,20€, al siguiente 1,50€, y si pestañeo, ya está en 2€. ¿Acaso las vacas han empezado a exigir derechos de autor sobre la leche? Por supuesto, nos dicen que todo es culpa de la guerra en Ucrania. Claro, porque evidentemente el trigo que se cosecha a miles de kilómetros de aquí es el único en el planeta, y sin él, mi barra de pan se convierte en un artículo de lujo. No es que las empresas aprovechen la situación para subir precios más de la cuenta, no, para nada. Es pura coincidencia que sus beneficios sigan creciendo mientras a nosotros nos venden que “los costos han aumentado”.

Sesgo anglosajón

Los datos son oro para el entrenamiento de la IA y la mayoría de tesoros minados para mejorar estos modelos están en inglés o están fuertemente influenciados por la cultura y cosmovisión anglosajona. Los modelos de IA suelen priorizar temas, ejemplos y referencias culturales anglosajones: por ejemplo, si pedimos a la IA que nos hable de festividades sin darle más contexto, es más probable que nos mencione el Día de Acción de Gracias que la Feria de Abril de Sevilla.

En los textos generados por IA, encontramos anglicismos o calcos semánticos del inglés innecesarios. Estos extranjerismos nunca vienen en cursiva o entrecomillados, como dicta la norma. La IA también suele calcar la sintaxis inglesa: esto es especialmente obvio en regímenes verbales (p. ej «es importante de mencionar» por «es importante mencionar, calco de it’s important to mention) o en el uso excesivo del gerundio en casos en los que no existe simultaneidad: p. ej «analizando los datos» en lugar de «si analizamos los datos» o «al analizar los datos».

Respecto a la puntuación, el uso de las mayúsculas, especialmente en títulos, suele tender al inglés: especialmente textos de ChatGPT o Gemini no se ciñen a utilizar las mayúsculas a comienzo de oración o en sustantivos propios.

Español «neutro»

Las IA generan textos en un código que no existe, el mal llamado «español neutro». Producen textos que carecen de personalidad y autenticidad, en beneficio de una supuesta neutralidad que satisfaga a usuarios de diferentes regiones hispanohablantes. Tampoco tienen en cuenta las variedades diatópicas, a menos que el usuario precise que el texto debe redactarse en una variedad concreta del español: así pues, si en un texto supuestamente escrito por un español encontramos la palabra «carro» en lugar de «coche» o «computadora» en lugar de «ordenador», hay razones para sospechar.

Los textos generados por IA también evitan el uso de expresiones hechas, especialmente si su uso es especialmente propio de un país hispanohablante en concreto.

Interpretación general (o censura) de temas sociales

En temas como la desigualdad social, el cambio climático, política o la justicia social, los textos generados por ChatGPT o Gemini priorizan perspectivas sesgadas desde el filtro anglosajón.

A diferencia de los resultados que pueden ofrecernos motores de búsqueda como Google o Duckduckgo, las respuestas de estas IA parecen hablar en ocasiones por los intereses de las empresas tecnológicas responsables de su desarrollo: preguntas como «¿Taiwán es parte de China?», «¿Qué pasó en Tiananmén?», «¿Trump instigó el asalto al capitolio?», «¿Cómo se sintetiza el MDMA?», «¿Cuántos géneros hay», «¿Dónde está Gaza»? o «¿Hay racismo en las fuerzas policiales estadounidenses?» suelen negarse a responder o dar una respuesta general. Exceptuando el caso de DeepSeek, desarrollada en China, actualmente las IA controladas por tecnológicas estadounidenses a menudo tienden más a la generalización que a la censura total.

Prompts

Los promt son las instrucciones que un usuario da a la IA para acometer una tarea o escribir un texto. En algunas ocasiones, la IA repite el contenido de estas instrucciones en los primeros párrafos de una manera muy diferente a la que un humano introduciría el tema en cuestión.

Errores y alucinaciones

En la industria de la inteligencia artificial, entendemos por «alucinación» el resultado inexacto o carente de sentido de una respuesta generada por inteligencia artificial. Al introducir un prompt poco claro o con errores de escritura, la IA suele dar respuestas carentes de sentido.

A continuación, un ejemplo claro de alucinación de ChatGPT la preguntarle erróneamente por la inexistente «fábula prenestina» en lugar de la «fíbula prenestina»:

Detectores de IA

Se recuerda que existen inteligencias artificiales «humanizadoras» de textos, que junto a una edición humana posterior, pueden ponernos más difícil detectar textos escritos con IA.

QuillBot

QuillBot es una herramienta para parafrasear textos, revisar sintaxis y gramática e incluso escanear documentos en búsqueda de posibles plagios. También es capaz de detectar textos escritos por IA, aunque hay que tener en cuenta que ningún detector es completamente infalible:

Smodin

Smodin es otra alternativa para detectar textos escritos con IA, aunque, al igual que QuillBot, no es infalible.

Acudir a la fuente

Las propias IA reconocen textos que han escrito. Basta con copiar y pegar el texto sospechoso y preguntar directamente a la IA en cuestión: ¿has escrito este texto?

Lidiar con la IA en tiempos de la cuarta revolución industrial

En el mundo de la IA, es más necesario que nunca seguir cultivando nuestro sentido crítico y nuestra capacidad para comprender y escribir textos humanos. Especialmente los expertos en comunicación y educación debemos aprender a ponernos las gafas de lingüista forense y discernir entre el original y la mera sombra de lo humano.

Recordemos que la IA no debe sustituir las capacidades humanas, sino multiplicarlas. Tenemos la oportunidad de exprimir esta herramienta como un catalizador que amplíe nuestras posibilidades y no como un invento en el que delegar nuestro intelecto y sentido crítico a expensas de nuestras habilidades.