IA

OpenAI retira su herramienta de detección de texto generado con ChatGPT por su poca fiabilidad

💿 ¡Rebajas VIP-URcdkey! Licencia Windows 11 por solo 18€ y Office 2016 por 23€ [ Saber más ]

OpenAI ha retirado silenciosamente su AI Classifier, una herramienta experimental diseñada para detectar texto generado por sistemas de IA generativa, como ChatGPT.

Esta herramienta era utilizada por instituciones educativas para detectar el plagio en los trabajos de los alumnos, entre otros usos.

TE INTERESA:
OpenAI puede clonar una voz con solo 15 segundos de audio

Esta decisión fue comunicada mediante una breve nota añadida a la página web oficial del clasificador de IA de OpenAI:

A partir del 20 de julio de 2023, el clasificador de IA ya no estará disponible debido a su baja tasa de precisión. Estamos trabajando para incorporar los comentarios y actualmente estamos investigando técnicas de procedencia más eficaces para el texto, y nos hemos comprometido a desarrollar y desplegar mecanismos que permitan a los usuarios entender si el contenido de audio o visual es generado por IA.

Lanzado el 31 de enero, el clasificador de IA de OpenAI surgió en medio de preocupaciones de educadores sobre el potencial de que los estudiantes lo usaran para escribir trabajos escolares.

Sin embargo, desde el principio, OpenAI admitió que su clasificador de IA no era «totalmente fiable», ya que solo identificaba correctamente el 26% del texto escrito por IA como «probablemente escrito por IA» y etiquetaba incorrectamente trabajos escritos por humanos el 9% de las veces.

En general, los detectores de escritura por IA, como el clasificador de IA de OpenAI, Turnitin y GPTZero, no han demostrado tener la suficiente precisión para ser confiables. Su metodología es especulativa y no está probada, lo que ha llevado a acusaciones erróneas de hacer trampas a estudiantes.

Además, los humanos pueden escribir como modelos de IA, y los modelos de IA pueden escribir como humanos si se les indica adecuadamente, lo que limita aún más la eficacia de estos detectores. A pesar de esto, ha surgido una pequeña industria de detectores comerciales de IA en los últimos meses.

Si bien se está investigando la posibilidad de añadir «marcas de agua» al texto generado por IA (alterando intencionalmente la frecuencia de las palabras en el resultado generado por IA), se ha demostrado que esto puede ser fácilmente eludido por modelos de IA que parafrasean el resultado.

🤯 ¡Descuentos Keysfan! ¡Office 2021 Pro por 27,75€ y más ofertas increíbles! [ Saber más ]

¿Cuál es tu reacción?
Sorprendido
0%
Feliz
0%
Indiferente
0%
Triste
100%
Enfadado
0%
Aburrido
0%
Incrédulo
0%
¡Buen trabajo!
0%
Sobre el Autor
Luis A.
Luis es el creador y editor jefe de Teknófilo. Se aficionó a la tecnología con un Commodore 64 e hizo sus pinitos programando gracias a los míticos libros de 🛒 'BASIC para niños' con 11 años. Con el paso de los años, la afición a los ordenadores se ha extendido a cualquier cacharrito que tenga una pantalla y CPU.
Comentarios
Deja un comentario

Deja un comentario