La nueva herramienta de detección de IA de OpenAI: ¿un cambio de juego en la prevención de trampa de los estudiantes?

Según una encuesta realizada por BestColleges, más de la mitad de los estudiantes recurren a la IA como un atajo para el éxito académico. Esto se alinea con un estudio de la Universidad de Stanford que encontró entre el 60 y el 70 por ciento de los estudiantes recurren a trampa. Sin embargo, los días de usar sin esfuerzo como AI como chatgpt para escribir ensayos podrían estar numerados. Un artículo de Wall Street Journal destaca que Operai afirma haber desarrollado un método para detectar contenido generado por IA con una asombrosa precisión del 99.9%.

Mi colega David Gewirtz ha notado que varios programas ya afirman detectar texto escrito por AI. Sin embargo, sigue siendo escéptico y afirma: "Ciertamente no me sentiría cómodo amenazando la posición académica de un estudiante o acusándolos de hacer trampa en función de los resultados de estas herramientas".

Operai no ha derramado los frijoles sobre cómo su método logra una detección tan perfecta. No se trata de atrapar la tendencia de la IA a "alucinar" o producir información falsa, como admitió el cofundador de OpenAI John Schulman el año pasado, "nuestra mayor preocupación fue la facturidad porque al modelo le gusta fabricar cosas".

Mohamed Elgendy, cofundadora y CEO de Kolena, un servicio de pruebas de aprendizaje automático, cree que si bien la tasa de alucinación de IA puede disminuir, nunca desaparecerá por completo. Lo compara incluso con las personas más educadas que ocasionalmente difunden información errónea.

En lugar de confiar en una misteriosa tecnología profunda, OpenAi parece estar utilizando un enfoque directo: la marca de agua. En una publicación de blog recientemente actualizada titulada "Comprender la fuente de lo que vemos y escuchamos en línea", OpenAI menciona explorar clasificadores, marcas de agua y metadatos para identificar contenido generado por IA. La mecánica exacta de esta marca de agua permanece en secreto.

Operai afirma que este método ha demostrado ser muy preciso y resistente a la manipulación localizada como la parafrasea. Sin embargo, lucha con la manipulación globalizada, como el texto traducido o la inserción y luego eliminar caracteres especiales. Además, no está diseñado para detectar contenido producido por otros modelos de IA, como Google Gemini o Perplexity.

En esencia, con un poco más de esfuerzo, los estudiantes y los escritores aún podrían colocar el trabajo generado por la IA más allá de los detectores. Desde mi propia experiencia, el contenido producido por AI a menudo se siente de segunda categoría, pero para algunos, una calificación pasajera podría ser todo lo que se necesita.

Un profesor autoproclamado en Reddit no está convencido, afirmando: "El problema es que puede copiar el texto en otro programa, traducirlo a otro idioma y luego traducirlo. Pero honestamente, la mayoría de los estudiantes no van a hacer eso, por lo que atraparía casi todos".

El CEO de Operai, Sam Altman, parece menos preocupado por las trampas académicas, diciéndole a la Gaceta de Harvard, "engañar a la tarea es obviamente malo. Pero lo que queremos decir con trampa y lo que las reglas esperadas son cambia con el tiempo".

No estoy seguro de estar de acuerdo con esa perspectiva. Hacer trampa es hacer trampa, y esta nueva herramienta de Operai no parece que sea una mella significativa en el problema.

Curiosamente, mientras OpenAI debate la liberación de este servicio de detección de texto, avanzan con un clasificador de procedencia Dall · E 3. Pronto, casi todas las imágenes creadas con Dall-E serán etiquetadas como generadas por IA, utilizando metadatos C2PA. Si eres un diseñador gráfico que se ha apoyado en Dall-E para gráficos "originales", podría ser el momento de repasar tus habilidades de Photoshop.