La nueva herramienta de detección de IA de OpenAI: ¿un cambio de juego en la prevención de trampa de los estudiantes?

Según una encuesta de BestColleges, más de la mitad de los estudiantes recurren a la IA como atajo para el éxito académico. Esto coincide con un estudio de la Universidad de Stanford que encontró que entre el 60 y el 70 por ciento de los estudiantes recurren al engaño. Sin embargo, los días de usar sin esfuerzo IA como ChatGPT para escribir ensayos podrían estar contados. Un artículo de The Wall Street Journal destaca que OpenAI afirma haber desarrollado un método para detectar contenido generado por IA con una precisión asombrosa del 99.9%.

Mi colega David Gewirtz ha señalado que varios programas ya afirman detectar textos escritos por IA. Sin embargo, sigue escéptico, afirmando, "Ciertamente no me sentiría cómodo amenazando la posición académica de un estudiante o acusándolos de hacer trampa basándome en los resultados de estas herramientas."

OpenAI no ha revelado cómo su método logra una detección casi perfecta. No se trata de captar la tendencia de la IA a "alucinar" o producir información falsa, como admitió el cofundador de OpenAI, John Schulman, el año pasado, "Nuestra mayor preocupación era la veracidad porque el modelo tiende a inventar cosas."

Mohamed Elgendy, cofundador y CEO de Kolena, un servicio de pruebas de aprendizaje automático, cree que aunque la tasa de alucinación de la IA puede disminuir, nunca desaparecerá por completo. Lo compara con incluso las personas más educadas que ocasionalmente difunden desinformación.

En lugar de depender de alguna tecnología profunda misteriosa, OpenAI parece estar usando un enfoque directo: el marcado con agua. En una publicación de blog recientemente actualizada titulada "Entendiendo la fuente de lo que vemos y oímos en línea," OpenAI menciona explorar clasificadores, marcado con agua y metadatos para identificar contenido generado por IA. Los detalles exactos de este marcado con agua siguen siendo un misterio.

OpenAI afirma que este método ha demostrado ser altamente preciso y resistente contra manipulaciones localizadas como parafrasear. Sin embargo, tiene dificultades con manipulaciones globalizadas, como texto traducido o la inserción y posterior eliminación de caracteres especiales. Además, no está diseñado para detectar contenido producido por otros modelos de IA, como Google Gemini o Perplexity.

En esencia, con un poco más de esfuerzo, estudiantes y escritores podrían aún lograr pasar trabajos generados por IA sin ser detectados. Por mi propia experiencia, el contenido producido por IA a menudo parece de segunda categoría, pero para algunos, una calificación aprobatoria podría ser suficiente.

Un autoproclamado profesor en Reddit no está convencido, afirmando, "El problema es que puedes simplemente copiar y pegar el texto en otro programa, traducirlo a otro idioma y luego volver a traducirlo. Pero honestamente, la mayoría de los estudiantes no van a hacer eso, así que atraparía a casi todos."

El CEO de OpenAI, Sam Altman, parece menos preocupado por el engaño académico, declarando a The Harvard Gazette, "Hacer trampa en las tareas es obviamente malo. Pero lo que entendemos por hacer trampa y cuáles son las reglas esperadas cambia con el tiempo."

No estoy seguro de estar de acuerdo con esa perspectiva. Hacer trampa es hacer trampa, y esta nueva herramienta de OpenAI no parece que vaya a hacer una gran diferencia en el problema.

Curiosamente, mientras OpenAI debate el lanzamiento de este servicio de detección de texto, están avanzando con un clasificador de procedencia de DALL·E 3. Pronto, casi cada imagen creada con DALL-E será etiquetada como generada por IA, utilizando metadatos C2PA. Si eres un diseñador gráfico que ha estado dependiendo de DALL-E para gráficos "originales," podría ser hora de mejorar tus habilidades en Photoshop.