Maison
Le nouvel outil de détection d'IA d'Openai: un changeur de jeu pour empêcher la tricherie des étudiants?

Selon une enquête de BestColleges, plus de la moitié des étudiants se tournent vers l'IA comme raccourci vers le succès académique. Cela correspond à une étude de l'Université de Stanford qui a révélé que 60 à 70 % des étudiants ont recours à la tricherie. Cependant, l'époque où l'on pouvait utiliser sans effort des IA comme ChatGPT pour rédiger des dissertations pourrait être comptée. Un article du Wall Street Journal souligne qu'OpenAI prétend avoir développé une méthode pour détecter le contenu généré par IA avec une précision stupéfiante de 99,9 %.
Mon collègue David Gewirtz a noté que plusieurs programmes prétendent déjà repérer les textes écrits par IA. Pourtant, il reste sceptique, déclarant : « Je ne me sentirais certainement pas à l’aise de menacer la situation académique d’un étudiant ou de l’accuser de tricherie sur la base des résultats de ces outils. »
OpenAI n’a pas révélé comment leur méthode atteint une détection quasi parfaite. Il ne s’agit pas de repérer la tendance de l’IA à « halluciner » ou à produire de fausses informations, comme l’a admis l’année dernière le co-fondateur d’OpenAI, John Schulman : « Notre plus grande préoccupation concernait la factualité, car le modèle aime inventer des choses. »
Mohamed Elgendy, co-fondateur et PDG de Kolena, un service de test d’apprentissage automatique, estime que bien que le taux d’hallucination de l’IA puisse diminuer, il ne disparaîtra jamais complètement. Il le compare au fait que même les individus les plus éduqués propagent parfois des informations erronées.
Plutôt que de s’appuyer sur une technologie profonde mystérieuse, OpenAI semble utiliser une approche simple : le filigranage. Dans un article de blog récemment mis à jour intitulé « Comprendre la source de ce que nous voyons et entendons en ligne », OpenAI mentionne explorer les classificateurs, le filigranage et les métadonnées pour identifier le contenu généré par IA. Les mécanismes exacts de ce filigranage restent confidentiels.
OpenAI affirme que cette méthode s’est révélée très précise et résistante aux altérations localisées comme la paraphrase. Cependant, elle rencontre des difficultés avec les altérations globalisées, comme le texte traduit ou l’insertion puis la suppression de caractères spéciaux. De plus, elle n’est pas conçue pour détecter le contenu produit par d’autres modèles d’IA, comme Google Gemini ou Perplexity.
En somme, avec un peu plus d’efforts, les étudiants et les écrivains pourraient encore réussir à faire passer du contenu généré par IA à travers les détecteurs. D’après ma propre expérience, le contenu produit par IA semble souvent de seconde zone, mais pour certains, une note passable pourrait suffire.
Un professeur autoproclamé sur Reddit n’est pas convaincu, déclarant : « Le problème, c’est qu’on peut simplement copier-coller le texte dans un autre programme, le traduire dans une autre langue, puis le retraduire. Mais honnêtement, la plupart des étudiants ne vont pas faire ça, donc ça attraperait presque tout le monde. »
Le PDG d’OpenAI, Sam Altman, semble moins préoccupé par la tricherie académique, déclarant à The Harvard Gazette : « Tricher sur les devoirs est évidemment mauvais. Mais ce que nous entendons par tricherie et ce que sont les règles attendues change avec le temps. »
Je ne suis pas sûr d’être d’accord avec cette perspective. Tricher, c’est tricher, et cet nouvel outil d’OpenAI ne semble pas pouvoir réduire significativement le problème.
Fait intéressant, alors qu’OpenAI débat de la sortie de ce service de détection de texte, ils avancent avec un classificateur de provenance pour DALL·E 3. Bientôt, presque chaque image créée avec DALL-E sera marquée comme générée par IA, utilisant des métadonnées C2PA. Si vous êtes un graphiste qui s’appuie sur DALL-E pour des graphismes « originaux », il est peut-être temps de perfectionner vos compétences sur Photoshop.
Article connexe
Stripe va acquérir OpenRouter alors que le routage basé sur des modèles d'IA prend de l'ampleur
Stripe a conclu un accord en vue d’acquérir OpenRouter, une plateforme de routage de modèles d’IA qui permet aux développeurs d’accéder à des centaines de modèles via une interface unique. Cette acqui
Barrett Zoph, ancien chercheur chez OpenAI, revient chez Google pour contribuer au développement de Gemini
Barret Zoph, qui avait auparavant quitté brusquement l’entreprise pour rejoindre OpenAI en raison d’un désaccord avec Miriam Mularati, PDG de Thinking Machines Lab, a une nouvelle fois changé d’employ
Comment Recursive Intelligence a levé 335 millions de dollars en 4 mois, avec une valorisation de 4 milliards de dollars
Les cofondatrices de la start-up Ricursive Intelligence semblaient destinées à devenir cofondatrices.Anna Goldie, PDG, et Azalia Mirhoseini, directrice technique, sont si connues dans le milieu de l’I
Recommandations de sujets spéciaux liés
commentaires (6)
이런 AI 탐지 도구가 나오니 대학 과제 평가 방식이 완전히 바뀌겠네요. 기술 발전이 빠르지만, 학생들의 창의성을 오히려 저해할 수도 있을 것 같아 조금 걱정되네요 🤔 이제는 AI와 인간의 경계가 흐려지는 시대인가요?
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚

Selon une enquête de BestColleges, plus de la moitié des étudiants se tournent vers l'IA comme raccourci vers le succès académique. Cela correspond à une étude de l'Université de Stanford qui a révélé que 60 à 70 % des étudiants ont recours à la tricherie. Cependant, l'époque où l'on pouvait utiliser sans effort des IA comme ChatGPT pour rédiger des dissertations pourrait être comptée. Un article du Wall Street Journal souligne qu'OpenAI prétend avoir développé une méthode pour détecter le contenu généré par IA avec une précision stupéfiante de 99,9 %.
Mon collègue David Gewirtz a noté que plusieurs programmes prétendent déjà repérer les textes écrits par IA. Pourtant, il reste sceptique, déclarant : « Je ne me sentirais certainement pas à l’aise de menacer la situation académique d’un étudiant ou de l’accuser de tricherie sur la base des résultats de ces outils. »
OpenAI n’a pas révélé comment leur méthode atteint une détection quasi parfaite. Il ne s’agit pas de repérer la tendance de l’IA à « halluciner » ou à produire de fausses informations, comme l’a admis l’année dernière le co-fondateur d’OpenAI, John Schulman : « Notre plus grande préoccupation concernait la factualité, car le modèle aime inventer des choses. »
Mohamed Elgendy, co-fondateur et PDG de Kolena, un service de test d’apprentissage automatique, estime que bien que le taux d’hallucination de l’IA puisse diminuer, il ne disparaîtra jamais complètement. Il le compare au fait que même les individus les plus éduqués propagent parfois des informations erronées.
Plutôt que de s’appuyer sur une technologie profonde mystérieuse, OpenAI semble utiliser une approche simple : le filigranage. Dans un article de blog récemment mis à jour intitulé « Comprendre la source de ce que nous voyons et entendons en ligne », OpenAI mentionne explorer les classificateurs, le filigranage et les métadonnées pour identifier le contenu généré par IA. Les mécanismes exacts de ce filigranage restent confidentiels.
OpenAI affirme que cette méthode s’est révélée très précise et résistante aux altérations localisées comme la paraphrase. Cependant, elle rencontre des difficultés avec les altérations globalisées, comme le texte traduit ou l’insertion puis la suppression de caractères spéciaux. De plus, elle n’est pas conçue pour détecter le contenu produit par d’autres modèles d’IA, comme Google Gemini ou Perplexity.
En somme, avec un peu plus d’efforts, les étudiants et les écrivains pourraient encore réussir à faire passer du contenu généré par IA à travers les détecteurs. D’après ma propre expérience, le contenu produit par IA semble souvent de seconde zone, mais pour certains, une note passable pourrait suffire.
Un professeur autoproclamé sur Reddit n’est pas convaincu, déclarant : « Le problème, c’est qu’on peut simplement copier-coller le texte dans un autre programme, le traduire dans une autre langue, puis le retraduire. Mais honnêtement, la plupart des étudiants ne vont pas faire ça, donc ça attraperait presque tout le monde. »
Le PDG d’OpenAI, Sam Altman, semble moins préoccupé par la tricherie académique, déclarant à The Harvard Gazette : « Tricher sur les devoirs est évidemment mauvais. Mais ce que nous entendons par tricherie et ce que sont les règles attendues change avec le temps. »
Je ne suis pas sûr d’être d’accord avec cette perspective. Tricher, c’est tricher, et cet nouvel outil d’OpenAI ne semble pas pouvoir réduire significativement le problème.
Fait intéressant, alors qu’OpenAI débat de la sortie de ce service de détection de texte, ils avancent avec un classificateur de provenance pour DALL·E 3. Bientôt, presque chaque image créée avec DALL-E sera marquée comme générée par IA, utilisant des métadonnées C2PA. Si vous êtes un graphiste qui s’appuie sur DALL-E pour des graphismes « originaux », il est peut-être temps de perfectionner vos compétences sur Photoshop.
Stripe va acquérir OpenRouter alors que le routage basé sur des modèles d'IA prend de l'ampleur
Stripe a conclu un accord en vue d’acquérir OpenRouter, une plateforme de routage de modèles d’IA qui permet aux développeurs d’accéder à des centaines de modèles via une interface unique. Cette acqui
Barrett Zoph, ancien chercheur chez OpenAI, revient chez Google pour contribuer au développement de Gemini
Barret Zoph, qui avait auparavant quitté brusquement l’entreprise pour rejoindre OpenAI en raison d’un désaccord avec Miriam Mularati, PDG de Thinking Machines Lab, a une nouvelle fois changé d’employ
Comment Recursive Intelligence a levé 335 millions de dollars en 4 mois, avec une valorisation de 4 milliards de dollars
Les cofondatrices de la start-up Ricursive Intelligence semblaient destinées à devenir cofondatrices.Anna Goldie, PDG, et Azalia Mirhoseini, directrice technique, sont si connues dans le milieu de l’I
이런 AI 탐지 도구가 나오니 대학 과제 평가 방식이 완전히 바뀌겠네요. 기술 발전이 빠르지만, 학생들의 창의성을 오히려 저해할 수도 있을 것 같아 조금 걱정되네요 🤔 이제는 AI와 인간의 경계가 흐려지는 시대인가요?
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚











