¡Alerta, profesores! OpenAI ayuda a ver si un texto escolar está hecho con su IA ChatGPT

Una de las muchas áreas impactadas por las capacidades de la inteligencia artificial ChatGPT es la de la educación. No han pasado aún dos meses desde su lanzamiento y la capacidad de esta IA para generar respuestas y contenidos sobre todo tipo de temas expresándose de forma fluida, clara y natural le ha permitido superar pruebas como aprobar exámenes de Derecho de la Universidad de Minnesota o escribir artículos periodísticos para medios como Buzzfeed o CNET. Lógicamente, estudiantes de todo el mundo han visto en ella una forma fácil de sacar sus trabajos académicos y el mundo educativo, entre otros como el periodístico o la simple generación de contenidos para webs, se enfrentan a un nuevo reto: ¿qué está escrito por una IA y qué está escrito por una persona?

OpenAI, la empresa desarrolladora de ChatGPT, es consciente de los problemas que el uso de su inteligencia artificial puede suponer en el ámbito educativo y otros, motivo por el que ha lanzado una herramienta, un clasificador, con la capacidad de distinguir entre texto generado por una inteligencia artificial como ChatGPT y texto creado por una persona. La idea es prometedora, pero aún cuenta con importantes límites.

La compañía señala en su página web que aunque “es imposible detectar de manera fiable todo el texto escrito por IA”, su clasificador puede ayudar a “mitigar las alegaciones falsas de que un texto generado por IA lo ha escrito un ser humano”. Por ejemplo, campañas de desinformación automatizadas, uso de la IA para “deshonestidad académica” o hacer pasar a un chatbot como ChatGPT por una persona real.

El clasificador ha sido entrenado con una base de datos con emparejamientos de textos escritos por IA y humanos sobre los mismos temas y aunque OpenAI asegura que su nuevo clasificador es mejor que el anterior, sus cifras tienen margen de mejora. Es capaz de identificar correctamente un 26% del texto escrito por una IA como “probablemente escrito por una IA” y falla clasificando texto escrito por IA como escrito por un humano un 9% de las veces. No es perfecta, pero puede ser una herramienta de ayuda para descubrir qué estudiantes están haciendo pasar los resultados de ChatGPT como un trabajo propio.

En cualquier caso, OpenAI advierte que no debe ser utilizada como la herramienta principal para tomar decisiones sobre la autenticidad humana de un texto y señala sus limitaciones. Es poco confiable en textos por debajo de los 1.000 caracteres y a veces puede señalar texto escrito por humanos como escrito por IA. También recomienda su uso con textos en inglés, dado que rinde peor en otros idiomas, y recuerda tanto que no puede distinguir la autoría de contenidos en casos como una lista de los primeros mil números primos, que sería realizada igual tanto por una IA como por una persona, y que un texto escrito por IA y editado por un humano también puede evadir el clasificador.