La vanguardia de la detección de textos generados por IA: la creciente preocupación de estudiantes y profesores en medio de la competencia por la precisión

La vanguardia de la detección de textos generados por IA: la creciente preocupación de estudiantes y profesores en medio de la competencia por la precisión

¿Es realmente posible detectar un texto escrito por IA? — La eficacia de las herramientas de detección y las trampas de los "falsos positivos"

Con la capacidad de la IA generativa para crear desde correos electrónicos hasta informes, anuncios y artículos de noticias, la pregunta "¿quién escribió este texto?" ha cobrado una importancia repentina. En este contexto, los detectores de texto de IA están ganando relevancia. Al ingresar un texto, en cuestión de segundos, indican la "posibilidad de que haya sido generado por IA" mediante porcentajes o codificación de colores. Los profesores pueden utilizarlos para revisar trabajos presentados, los editores para evaluar manuscritos y las empresas para controlar la calidad del contenido subcontratado. A primera vista, parecen una herramienta imprescindible en la era de la IA.

Sin embargo, el "87%" que aparece en pantalla no es una prueba de autoría como un análisis de ADN. Es el resultado de un análisis estadístico de los patrones del texto, estimando si se asemeja más a un texto humano o a uno generado por IA. Aunque puede ser una alerta útil, no puede ser un veredicto para juzgar a una persona por sí solo. Implementarlo sin comprender esta diferencia puede no solo pasar por alto fraudes, sino también generar sospechas sobre personas inocentes.


¿Qué observan los detectores de IA?

Muchos detectores se basan en la elección de palabras, la variación en la longitud de las oraciones, la repetición, la sintaxis y la previsibilidad de las palabras siguientes. Los modelos de lenguaje a gran escala construyen textos eligiendo probabilísticamente palabras que podrían seguir en el contexto. Por ello, en textos fluidos y con pocas rupturas, pueden aparecer patrones característicos de la generación automática.

Los conceptos de "imprevisibilidad" y "variabilidad" son comunes. El primero se refiere a qué tan predecible es la próxima palabra, mientras que el segundo observa la mezcla de oraciones cortas y largas, y de expresiones simples e inesperadas. Los humanos tienden a reformular o cambiar el ritmo según el tema, mientras que la IA tiende a mantener oraciones promedio y ordenadas; al menos, los detectores intentan captar esta tendencia.

No obstante, esto no es una huella digital. Incluso con la misma IA, el estilo puede variar según el modelo, las instrucciones, la configuración de temperatura y el método de edición. Los humanos también pueden escribir textos predecibles como documentos legales, especificaciones de productos, correos electrónicos estándar o resúmenes académicos. El resultado de pasar un texto por herramientas de corrección puede reducir la variabilidad en las expresiones. Los detectores solo ven la cadena de texto final, no el contexto de escritura, el dispositivo utilizado ni el procedimiento seguido.


La mayor debilidad es que la "naturaleza de IA" sigue cambiando

Cuando el lado de la detección aprende las características de la IA, el lado de la generación puede diluirlas. Parafrasear, cambiar el orden de las palabras, revisar varias veces o añadir contenido humano puede alterar el resultado. Investigaciones han demostrado que la parafraseo recursivo puede reducir la tasa de detección sin comprometer significativamente la calidad del texto. Por el contrario, también es teóricamente posible manipular textos humanos para que se confundan con características mecánicas.

Por lo tanto, la detección no es un trabajo de encontrar falsificaciones fijas. Es un juego de persecución donde el modelo generativo evoluciona y las habilidades de edición de los usuarios mejoran, desplazando constantemente los estándares. Un detector que obtiene buenos resultados en un momento, modelo o idioma específico no necesariamente mantendrá el mismo rendimiento en condiciones diferentes.

Un ejemplo emblemático es la respuesta de OpenAI. La empresa lanzó un clasificador de texto de IA en 2023, pero en los datos de evaluación en inglés, solo el 26% de los textos generados por IA fueron correctamente identificados como "escritos por IA", y el 9% de los textos humanos fueron erróneamente clasificados como IA. Posteriormente, suspendieron su servicio debido a la baja precisión. La empresa misma explicó que la fiabilidad disminuye con textos cortos, en idiomas distintos al inglés o textos diferentes a los datos de entrenamiento, y que no debería usarse como herramienta principal para la toma de decisiones.

Esto no significa que "todos los detectores solo acierten el 26%". Cada producto tiene diferentes datos y métodos de evaluación. Sin embargo, el hecho de que incluso las empresas que desarrollan IA generativa enfrenten la dificultad de juzgar textos de manera general es significativo.


La detección errónea genera una injusticia poco visible

La detección errónea no es solo un error numérico. En las escuelas, puede afectar calificaciones o medidas disciplinarias; en la investigación, la credibilidad; y para los escritores, las recompensas o contratos. Especialmente preocupante es el caso de los escritores no nativos en inglés. Investigaciones de Stanford y otros han reportado que varios detectores tienden a confundir la escritura de hablantes no nativos con textos generados por IA. Se cree que esto se debe a un vocabulario y sintaxis limitados, lo que hace que los textos sean más predecibles.

Este problema no es ajeno a los usuarios en Japón. Muchas tecnologías de detección se desarrollan con datos centrados en inglés, y no siempre se verifica que tengan el mismo rendimiento en japonés. El japonés tiene características diferentes al inglés, como la omisión del sujeto, la falta de espacios entre palabras, el uso de honoríficos y la mezcla de kanji y kana. En publicaciones cortas de redes sociales o textos comerciales estándar, los materiales para la detección son aún más limitados. No hay garantías de que un estándar uniforme como "seguro si tiene más de 500 palabras" se aplique a través de diferentes idiomas o productos.

Turnitin también ha reconocido que en el rango del 1% al 19% de detección de IA, los errores son relativamente comunes, por lo que actualmente no muestran un valor específico, sino que lo indican con un asterisco. Este es un ejemplo de cómo los servicios de detección reconocen que los puntajes bajos son más propensos a interpretaciones erróneas. Superar el 20% no significa automáticamente que se confirme un fraude. El porcentaje mostrado es la proporción del texto que se estima como "parecido a IA", y no la probabilidad de que el autor haya usado IA.


En las redes sociales, "necesidad" y "peligro" chocan frontalmente

Las reacciones en redes sociales y foros están polarizadas. En las comunidades educativas, hay cautela sobre descartar completamente los detectores, con argumentos como "son necesarios para filtrar textos sospechosos entre una gran cantidad de trabajos presentados" y "ayudan a notar diferencias con las habilidades de escritura habituales". El aumento real de copias directas por IA y la carga de trabajo de los profesores para verificar manualmente cada caso no pueden ignorarse.

 

Por otro lado, la oposición es fuerte. En Reddit, hay relatos de experiencias donde un profesor ingresó su propio texto y fue clasificado como generado por IA, o donde el mismo texto arrojó resultados que variaban de 0% a altos porcentajes en diferentes servicios, o textos sospechados solo por haber pasado por herramientas de corrección. Desde el lado de los estudiantes, se expresan preocupaciones sobre tener que conservar un historial de ediciones para refutar detecciones erróneas, y la carga excesiva de demostrar su inocencia.

Es interesante que en los debates del lado de los profesores también se repita la opinión de "no acusar solo basándose en el puntaje". Se proponen métodos como pedir al estudiante que explique el significado de las partes sospechosas, preguntar por las fuentes consultadas, revisar borradores y registros de cambios, y comparar con textos habituales. También hay fracasos en la dirección opuesta. Se han reportado casos donde, a pesar de que el texto claramente difiere de lo habitual, varios detectores devolvieron un 0%, lo que ha ampliado la desconfianza no solo hacia los falsos positivos, sino también hacia los falsos negativos.

Por supuesto, las publicaciones en redes sociales no son estudios estadísticos, y las afirmaciones de los autores no siempre pueden verificarse como hechos. Aun así, se puede leer que coexisten el "miedo a ser detectado erróneamente" y la "ansiedad por no poder detectar fraudes". La controversia en torno a los detectores no solo se trata de la precisión técnica, sino también de quién asume la responsabilidad de explicar los resultados.


"El contenido de IA es penalizado en SEO" es una simplificación excesiva

En torno al contenido de IA, se dice que "los motores de búsqueda bajan el rango solo porque fue escrito por IA". Sin embargo, la política oficial de Google no es tan simple. Google considera que la IA generativa puede ser útil para la investigación y la estructuración de contenido original, y señala que el problema radica en el uso que infringe las políticas de spam, como la generación masiva de páginas sin valor añadido para los usuarios. Lo que se valora es la precisión, la calidad y la relevancia, y se recomienda proporcionar un contexto adecuado sobre el método de creación.

Por lo tanto, concentrarse únicamente en reducir el puntaje de detección como estrategia de SEO es contraproducente. Aunque un texto parezca humano, si los hechos son incorrectos, carece de información original y no responde a las preguntas de los lectores, su valor es bajo. Por el contrario, si se utiliza la IA para la investigación preliminar o como ayuda en la estructuración, y un experto verifica, añade investigación original o experiencia, y aclara la responsabilidad, puede convertirse en contenido útil para los lectores.


Uso correcto en el campo: usar el puntaje como "punto de partida"

Si se va a utilizar un detector de IA, el objetivo debe ser "encontrar áreas que requieran confirmación adicional" en lugar de "buscar culpables". En la práctica, el siguiente procedimiento es realista.

Primero, registre el objeto de evaluación y las condiciones. Anote el nombre del servicio, la fecha de ejecución, el idioma correspondiente, el rango de entrada y la cantidad de texto. Los modelos de detección se actualizan, por lo que no siempre se obtendrán los mismos resultados en el futuro.

Segundo, verifique el significado del puntaje. Si se trata de la "probabilidad de uso de IA" o la "proporción de texto que parece de IA" varía según el producto. No se debe comparar solo los números.

Tercero, combine múltiples evidencias. Revise borradores, notas, registros de entrevistas, URL de referencia, historial de versiones, hora de creación del archivo y explicaciones del autor. En las escuelas, antes de informar a los estudiantes de sospechas, es necesario proporcionar oportunidades de refutación y un procedimiento de apelación.

Cuarto, separe los resultados de detección de la evaluación de calidad. Si un texto parece de IA o no, y si el contenido es preciso, original y valioso para el lector son ejes diferentes. Hay artículos de baja calidad escritos por humanos, así como textos útiles que un humano ha terminado con responsabilidad utilizando IA como apoyo.

Quinto, verifique el manejo de información confidencial o manuscritos no publicados. Antes de pegar en servicios externos, confirme la política de almacenamiento, el uso para aprendizaje, las condiciones de eliminación y las regulaciones de gestión de información de la organización. No tiene sentido comprometer información del cliente o datos de investigación para la detección.


De la detección a la "prueba del proceso de creación"

El enfoque futuro probablemente se desplazará de inferir al autor solo mirando el texto final a mostrar el proceso de creación. Al combinar el historial de edición, la gestión de fuentes, las firmas electrónicas, la información de procedencia y la declaración de uso de IA dentro de la organización, se puede acercar más a la realidad que la simple dicotomía de "IA o humano". La creación de textos en la realidad se está convirtiendo en un esfuerzo colaborativo donde la IA propone estructuras, los humanos investigan y otras herramientas corrigen.

La pregunta no es "¿participó la IA en alguna parte del texto?". Es sobre dónde se utilizó la IA, quién verificó los hechos y quién asume la responsabilidad final. En la educación, prohibir completamente la IA y continuar el juego de detección solo puede llevar a que los estudiantes aprendan técnicas para evitar los puntajes. En cambio, es importante aclarar el alcance permitido, el método de declaración y los criterios de evaluación, y diseñar tareas donde los estudiantes puedan explicar sus ideas oralmente.

Los detectores de IA seguirán mejorando y continuarán siendo una línea de apoyo efectiva bajo ciertas condiciones. Sin embargo, incluso si la tasa de detección aumenta, no siempre es apropiado automatizar los juicios sociales. A veces, el proceso de creación documentado con tiempo es una prueba más fuerte que un número obtenido en segundos.

Lo que debemos proteger no es la vaga "humanidad". Es la precisión, originalidad, transparencia y responsabilidad de la información. La confianza en la era de la IA no proviene de textos que las máquinas no pueden detectar, sino de textos que pueden explicar cómo se hicieron y cómo se verificaron.


URL de referencia

Artículos relacionados