Le nouvel outil de détection d'IA d'Openai: un changeur de jeu pour empêcher la tricherie des étudiants?

Selon une enquête de BestColleges, plus de la moitié des étudiants se tournent vers l'IA en tant que raccourci vers la réussite scolaire. Cela s'aligne sur une étude de l'Université de Stanford qui a révélé que entre 60 et 70% des étudiants ont recours à la tricherie. Cependant, les jours de l'utilisation sans effort de l'IA comme Chatgpt pour écrire des essais peuvent être numérotés. Un article du Wall Street Journal souligne qu'OpenAI prétend avoir développé une méthode pour détecter le contenu généré par l'IA avec une précision stupéfiante de 99,9%.

Mon collègue David Gewirtz a noté que plusieurs programmes prétendent déjà repérer du texte écrit par l'IA. Pourtant, il reste sceptique, déclarant: "Je ne me sentirais certainement pas à l'aise de menacer la position académique d'un étudiant ou de les accuser de tricherie en fonction des résultats de ces outils."

OpenAI n'a pas renversé les haricots sur la façon dont leur méthode réalise une telle détection presque parfaite. Il ne s'agit pas d'attraper la tendance de l'IA à "halluciner" ou à produire de fausses informations, comme l'a admis l'année dernière le co-fondateur d'Openai, John Schulman, "notre plus grande préoccupation a été autour de factualité parce que le modèle aime fabriquer des choses."

Mohamed Elgendy, co-fondateur et PDG de Kolena, un service de test d'apprentissage automatique, estime que si le taux d'hallucination de l'IA peut diminuer, il ne disparaîtra jamais entièrement. Il le compare même aux individus les plus instruits diffusant parfois une désinformation.

Plutôt que de s'appuyer sur une technologie profonde mystérieuse, Openai semble utiliser une approche simple: le filigrane. Dans un article de blog récemment mis à jour intitulé "Comprendre la source de ce que nous voyons et entendons en ligne", Openai mentionne explorant les classificateurs, le filigrane et les métadonnées pour identifier le contenu généré par l'IA. La mécanique exacte de ce filigrane reste sous les wraps.

OpenAI affirme que cette méthode s'est révélée très précise et résiliente contre la falsification localisée comme la paraphrase. Cependant, il lutte contre la falsification mondialisée, comme le texte traduit ou l'insertion, puis la suppression des caractères spéciaux. De plus, il n'est pas conçu pour détecter le contenu produit par d'autres modèles d'IA, comme Google Gemini ou la perplexité.

Essentiellement, avec un peu plus d'efforts, les étudiants et les écrivains pourraient encore être en mesure de gêner les détecteurs passés générés par l'IA. D'après ma propre expérience, le contenu produit par l'IA se sent souvent de second ordre, mais pour certains, une note de passage pourrait être tout ce qui est nécessaire.

Un professeur autoproclamé sur Reddit n'est pas convaincu, déclarant: "Le problème est que vous pouvez simplement copier le texte dans un autre programme, le traduire dans une autre langue, puis le traduire. Mais honnêtement, la plupart des étudiants ne le feraient pas, donc cela attraperait à peu près tout le monde."

Le PDG d'Openai, Sam Altman, semble moins préoccupé par la tricherie académique, disant à la Gazette de Harvard: "La tricherie des devoirs est évidemment mauvaise. Mais ce que nous entendons par tricherie et ce que sont les règles attendues changent au fil du temps."

Je ne suis pas sûr d'être d'accord avec cette perspective. La tricherie est de la triche, et ce nouvel outil d'Openai ne semble pas faire une brèche importante dans le problème.

Fait intéressant, alors qu'Openai débat de la publication de ce service de détection de texte, ils avancent avec un classificateur de provenance de Dall · e 3. Bientôt, presque toutes les images créées avec Dall-E seront étiquetées comme générées par AI, en utilisant les métadonnées C2PA. Si vous êtes un graphiste qui s'est appuyé sur Dall-E pour les graphiques "originaux", il est peut-être temps de se replier sur vos compétences Photoshop.