OpenAI retira su herramienta de detección de texto generado con ChatGPT por su poca fiabilidad
OpenAI ha retirado silenciosamente su AI Classifier, una herramienta experimental diseñada para detectar texto generado por sistemas de IA generativa, como ChatGPT.
Esta herramienta era utilizada por instituciones educativas para detectar el plagio en los trabajos de los alumnos, entre otros usos.
Esta decisión fue comunicada mediante una breve nota añadida a la página web oficial del clasificador de IA de OpenAI:
A partir del 20 de julio de 2023, el clasificador de IA ya no estará disponible debido a su baja tasa de precisión. Estamos trabajando para incorporar los comentarios y actualmente estamos investigando técnicas de procedencia más eficaces para el texto, y nos hemos comprometido a desarrollar y desplegar mecanismos que permitan a los usuarios entender si el contenido de audio o visual es generado por IA.
Lanzado el 31 de enero, el clasificador de IA de OpenAI surgió en medio de preocupaciones de educadores sobre el potencial de que los estudiantes lo usaran para escribir trabajos escolares.
Sin embargo, desde el principio, OpenAI admitió que su clasificador de IA no era «totalmente fiable», ya que solo identificaba correctamente el 26% del texto escrito por IA como «probablemente escrito por IA» y etiquetaba incorrectamente trabajos escritos por humanos el 9% de las veces.
En general, los detectores de escritura por IA, como el clasificador de IA de OpenAI, Turnitin y GPTZero, no han demostrado tener la suficiente precisión para ser confiables. Su metodología es especulativa y no está probada, lo que ha llevado a acusaciones erróneas de hacer trampas a estudiantes.
Además, los humanos pueden escribir como modelos de IA, y los modelos de IA pueden escribir como humanos si se les indica adecuadamente, lo que limita aún más la eficacia de estos detectores. A pesar de esto, ha surgido una pequeña industria de detectores comerciales de IA en los últimos meses.
Si bien se está investigando la posibilidad de añadir «marcas de agua» al texto generado por IA (alterando intencionalmente la frecuencia de las palabras en el resultado generado por IA), se ha demostrado que esto puede ser fácilmente eludido por modelos de IA que parafrasean el resultado.
