Con el aumento en el uso de la IA generativa, se ha vuelto necesario identificar si los trabajos han sido creados con inteligencia artificial, sobre todo en áreas donde su uso se asocia con delitos como el plagio. Ante tal necesidad, la misma industria tecnológica ha puesto a disposición de los usuarios programas de detección de IA, los cuales no son más que inteligencias artificiales entrenadas para tal propósito, pero, ¿qué tan confiables son estos detectores?

Si bien la inteligencia artificial es una herramienta útil en muchos ámbitos, presenta fallas y llega a dar respuestas totalmente erróneas, conocidas como “alucinaciones”, y los detectores no están exentos de estas. Navegando en Threads y X es posible encontrarse con testimonios donde los detectores han fallado totalmente. Creadores de contenido, escritores, alumnos y profesores han encontrado que sus trabajos han sido identificados como generados por IA. Lo que es más, en 2024 el cofundador y científico de datos en jefe de la empresa de inteligencia artificial Trust Insights, Christopher Penn, encontró que la Declaración de Independencia de Estados Unidos fue detectada como creada por IA en un 97%. 

¿Pero qué tan frecuentes son estos casos? 

A raíz de lo dicho por Christopher Penn, el sitio web de noticias decrypt.co decidió hacer su propia prueba utilizando, además de la Declaración de Independencia, un texto modificado por IA. Los resultados fueron que la confiabilidad dependía del detector usado. El más confiable fue Grammarly, que supo clasificar correctamente ambos textos, mientras que ZeroGPT erró en ambas ocasiones. Por su parte, un grupo de investigadores de la universidad de Stanford, encabezado por Weixin Liang, realizó un estudio comparando el porcentaje de falsos positivos entre hablantes nativos y no nativos de inglés. Lo que encontraron fue un sesgo en contra de los hablantes no nativos, pues sus trabajos eran clasificados como hechos por IA con una tasa promedio del 61%. En tanto, los trabajos de hablantes nativos presentaron falsos positivos con una tasa del 5%, que aunque es un porcentaje bajo, implica que los detectores no pueden dar certeza total a si un texto es creado por un humano o una IA. 

¿Por qué sucede esto?

Lo que hay que entender es que los detectores de IA trabajan con tasas probabilistas, es decir, analizan a partir de su base de datos qué tan probable o no es que el texto lo haya hecho un humano. Para esto evalúan dos variables, llamadas en inglés perplexity y burstiness, las cuales son indicadores de qué tanto puede la IA predecir las siguientes palabras y oraciones del texto. Mientras más predictible sea un texto, mayores son ambas variables y, por tanto, mayor es la probabilidad de que se trate de un trabajo hecho por inteligencia artificial. 

Quienes sepan de redacción podrán ver el problema de inmediato. Los detectores de IA no sólo clasifican como IA los textos generados por una, sino también aquellos cuyas funciones comunicativas exigen un vocabulario específico y una estructura definida, como son los textos jurídicos (la Declaración de Independencia es un ejemplo), los científicos y de divulgación científica, los informativos con jerga especializada, manuales y libros infantiles, por mencionar algunos. Además, como quedó demostrado en el trabajo de Weixin Liang, los detectores presentan un sesgo ante las personas que, por diferentes causas, no cuenten con un vocabulario amplio, ya sea por su nivel de estudios o porque estén escribiendo en un idioma que no es el suyo, lo cual puede causar que estas sean acusadas falsamente del uso de IAG.

Por otro lado, es muy fácil hacer que un texto de IA pase como hecho por un humano tan solo ajustando prompts y pidiéndole al programa en cuestión que amplíe el vocabulario utilizado. En el estudio de Stanford, lograron engañar a los detectores pidiéndole a ChatGPT que usara un vocabulario más literario.

Aunque hay detectores que usan otros parámetros para la detección, como aquellos que buscan marcas de agua, lo cierto es que tampoco son infalibles y no son de mucha utilidad cuando pocas empresas de inteligencia artificial usan esas marcas.

¿Entonces es recomendable usarlos?

Aunque no existe un detector cien por ciento confiable, siguen siendo una herramienta útil en este mundo donde el uso de la IA generativa crece a pasos agigantados, por lo que negar su uso, al igual que el del resto de inteligencias artificiales, es casi imposible. No obstante, hay que tener en consideración ciertos criterios al momento de usarlos, por ejemplo, su tasa de eficiencia. Como ya vimos, no es lo mismo usar Gramarly que ZeroGPT, por lo que recomendaría el uso del primero aunque sea de paga (y por cierto, hay que buscar esa información en fuentes no relacionadas con la marca, pues ZeroGPT se anuncia como un detector de punta usado en muchas universidades). También hay que considerar el tipo de texto a analizar y tener presente que mientras tenga un vocabulario más limitado o una estructura más rígida, mayor es la probabilidad de un falso positivo, por lo que es responsabilidad del usuario si confía en el programa o si sigue su instinto. Tampoco hay que olvidar que el uso de estos nuevos métodos para evitar la trampa y el plagio, puede ser causa de injusticias hacia ciertos grupos de personas, por lo que su uso debe hacerse con total consciencia. Porque si bien, los problemas de la detección ya se están discutiendo en el mundo académico, científico y tecnológico, mientras todavía no se encuentren soluciones satisfactorias, el criterio humano debe imperar por sobre el del programa detector.