Le nouvel outil de détection d'IA d'Openai: un changeur de jeu pour empêcher la tricherie des étudiants?

Selon une enquête de BestColleges, plus de la moitié des étudiants se tournent vers l'IA comme raccourci vers le succès académique. Cela correspond à une étude de l'Université de Stanford qui a révélé que 60 à 70 % des étudiants ont recours à la tricherie. Cependant, l'époque où l'on pouvait utiliser sans effort des IA comme ChatGPT pour rédiger des dissertations pourrait être comptée. Un article du Wall Street Journal souligne qu'OpenAI prétend avoir développé une méthode pour détecter le contenu généré par IA avec une précision stupéfiante de 99,9 %.

Mon collègue David Gewirtz a noté que plusieurs programmes prétendent déjà repérer les textes écrits par IA. Pourtant, il reste sceptique, déclarant : « Je ne me sentirais certainement pas à l’aise de menacer la situation académique d’un étudiant ou de l’accuser de tricherie sur la base des résultats de ces outils. »

OpenAI n’a pas révélé comment leur méthode atteint une détection quasi parfaite. Il ne s’agit pas de repérer la tendance de l’IA à « halluciner » ou à produire de fausses informations, comme l’a admis l’année dernière le co-fondateur d’OpenAI, John Schulman : « Notre plus grande préoccupation concernait la factualité, car le modèle aime inventer des choses. »

Mohamed Elgendy, co-fondateur et PDG de Kolena, un service de test d’apprentissage automatique, estime que bien que le taux d’hallucination de l’IA puisse diminuer, il ne disparaîtra jamais complètement. Il le compare au fait que même les individus les plus éduqués propagent parfois des informations erronées.

Plutôt que de s’appuyer sur une technologie profonde mystérieuse, OpenAI semble utiliser une approche simple : le filigranage. Dans un article de blog récemment mis à jour intitulé « Comprendre la source de ce que nous voyons et entendons en ligne », OpenAI mentionne explorer les classificateurs, le filigranage et les métadonnées pour identifier le contenu généré par IA. Les mécanismes exacts de ce filigranage restent confidentiels.

OpenAI affirme que cette méthode s’est révélée très précise et résistante aux altérations localisées comme la paraphrase. Cependant, elle rencontre des difficultés avec les altérations globalisées, comme le texte traduit ou l’insertion puis la suppression de caractères spéciaux. De plus, elle n’est pas conçue pour détecter le contenu produit par d’autres modèles d’IA, comme Google Gemini ou Perplexity.

En somme, avec un peu plus d’efforts, les étudiants et les écrivains pourraient encore réussir à faire passer du contenu généré par IA à travers les détecteurs. D’après ma propre expérience, le contenu produit par IA semble souvent de seconde zone, mais pour certains, une note passable pourrait suffire.

Un professeur autoproclamé sur Reddit n’est pas convaincu, déclarant : « Le problème, c’est qu’on peut simplement copier-coller le texte dans un autre programme, le traduire dans une autre langue, puis le retraduire. Mais honnêtement, la plupart des étudiants ne vont pas faire ça, donc ça attraperait presque tout le monde. »

Le PDG d’OpenAI, Sam Altman, semble moins préoccupé par la tricherie académique, déclarant à The Harvard Gazette : « Tricher sur les devoirs est évidemment mauvais. Mais ce que nous entendons par tricherie et ce que sont les règles attendues change avec le temps. »

Je ne suis pas sûr d’être d’accord avec cette perspective. Tricher, c’est tricher, et cet nouvel outil d’OpenAI ne semble pas pouvoir réduire significativement le problème.

Fait intéressant, alors qu’OpenAI débat de la sortie de ce service de détection de texte, ils avancent avec un classificateur de provenance pour DALL·E 3. Bientôt, presque chaque image créée avec DALL-E sera marquée comme générée par IA, utilisant des métadonnées C2PA. Si vous êtes un graphiste qui s’appuie sur DALL-E pour des graphismes « originaux », il est peut-être temps de perfectionner vos compétences sur Photoshop.