Openai的新AI检测工具：改变学生作弊的游戏规则？
根据BestColleges的调查，超过一半的学生使用AI作为学术成功的捷径。这与斯坦福大学的研究一致，该研究发现60%至70%的学生诉诸作弊。然而，轻松使用ChatGPT等AI撰写论文的日子可能不多了。《华尔街日报》的一篇文章指出，OpenAI声称已开发出一种检测AI生成内容的准确率高达99.9%的方法。
我的同事David Gewirtz指出，已有多个程序声称能识别AI撰写的文本。然而，他持怀疑态度，表示：“我肯定不会仅凭这些工具的结果就威胁学生的学术地位或指控他们作弊。”
OpenAI尚未透露其方法如何实现如此接近完美的检测。这不是因为AI容易“幻觉”或生成虚假信息，正如OpenAI联合创始人John Schulman去年承认：“我们最大的担忧是事实性，因为模型喜欢捏造内容。”
Kolena的联合创始人兼首席执行官Mohamed Elgendy认为，虽然AI的幻觉率可能降低，但永远不会完全消失。他将其比作即使是最博学的人偶尔也会传播错误信息。
OpenAI似乎并未依赖神秘的深度技术，而是采用了一种直接方法：水印。在一篇题为“了解我们在网上看到和听到的来源”的最近更新的博客文章中，OpenAI提到正在探索分类器、水印和元数据来识别AI生成内容。水印的具体机制仍未公开。
OpenAI声称这种方法已被证明高度准确且对局部篡改（如改写）具有韧性。然而，它难以应对全局篡改，如翻译文本或插入后删除特殊字符。此外，它并非设计用来检测其他AI模型（如Google Gemini或Perplexity）生成的内容。
本质上，只要稍加努力，学生和写作者可能仍能让AI生成的内容通过检测。从我自己的经验来看，AI生成的内容往往感觉次等，但对一些人来说，及格可能就足够了。
Reddit上一位自称是教授的用户并不信服，他表示：“问题是你可以直接将文本复制粘贴到另一个程序，翻译成另一种语言，再翻译回来。但老实说，大多数学生不会这样做，所以这几乎能抓住所有人。”
OpenAI首席执行官Sam Altman似乎对学术作弊不太担心，他对《哈佛公报》说：“在作业上作弊显然不好。但我们对作弊的定义和预期规则会随时间变化。”
我不确定是否同意这种观点。作弊就是作弊，OpenAI的这个新工具似乎无法显著解决这个问题。
有趣的是，在OpenAI讨论是否发布此文本检测服务的同时，他们正在推进DALL·E 3来源分类器。很快，几乎每张由DALL-E创建的图像都将被标记为AI生成，使用C2PA元数据。如果你是依赖DALL-E创作“原创”图形的平面设计师，可能需要重新拾起Photoshop技能了。
相关文章
美国将因社交媒体法规制裁外国官员
美国站出来反对全球数字内容法规美国国务院本周针对欧洲的数字治理政策发出了尖锐的外交斥责，表明在网络平台控制权问题上的紧张局势正在升级。国务卿马可-卢比奥（Marco Rubio）公布了一项新的签证限制政策，该政策针对的是参与美国认为影响美国数字空间的过度审查的外国官员。新签证限制解释根据周三宣布的政策，美国将拒绝被认定正在执行影响美国受保护言论的海外内容法规的外国公民入境。卢比奥强调了两
人工智能驱动的 YouTube 视频摘要器终极指南
在我们信息丰富的数字环境中，人工智能驱动的 YouTube 视频摘要器已成为高效内容消费不可或缺的工具。本深度指南探讨了如何利用最先进的 NLP 技术（特别是来自 Hugging Face 的 BART 模型与 YouTube 的 Transcript API 相结合）构建复杂的摘要工具。无论您是要开发生产力工具、增强可访问性解决方案，还是要创建教育资源，本指南都能为您提供实现专业级摘要所需的一切
Atlassian 斥资 6.1 亿美元收购浏览器公司，加强开发人员工具
企业生产力软件领导者 Atlassian 宣布，计划以 6.1 亿美元的全现金交易收购创新型浏览器开发商 The Browser Company。这一战略举措旨在通过整合为现代知识工作者量身定制的人工智能功能，彻底改变工作场所的浏览方式。"Atlassian首席执行官兼联合创始人迈克-坎农-布鲁克斯（Mike Cannon-Brookes）表示："传统浏览器是为休闲网上冲浪而设计的，而不是为当
评论 (5)
0/200
![AnthonyHernández]()
AnthonyHernández
2025-04-25 08:20:51
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
0
![NicholasThomas]()
NicholasThomas
2025-04-25 01:43:04
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
0
![EricJohnson]()
EricJohnson
2025-04-24 10:17:46
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
0
![BrianThomas]()
BrianThomas
2025-04-24 09:45:13
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
0
![PaulTaylor]()
PaulTaylor
2025-04-24 08:25:23
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚
0
根据BestColleges的调查，超过一半的学生使用AI作为学术成功的捷径。这与斯坦福大学的研究一致，该研究发现60%至70%的学生诉诸作弊。然而，轻松使用ChatGPT等AI撰写论文的日子可能不多了。《华尔街日报》的一篇文章指出，OpenAI声称已开发出一种检测AI生成内容的准确率高达99.9%的方法。
我的同事David Gewirtz指出，已有多个程序声称能识别AI撰写的文本。然而，他持怀疑态度，表示：“我肯定不会仅凭这些工具的结果就威胁学生的学术地位或指控他们作弊。”
OpenAI尚未透露其方法如何实现如此接近完美的检测。这不是因为AI容易“幻觉”或生成虚假信息，正如OpenAI联合创始人John Schulman去年承认：“我们最大的担忧是事实性，因为模型喜欢捏造内容。”
Kolena的联合创始人兼首席执行官Mohamed Elgendy认为，虽然AI的幻觉率可能降低，但永远不会完全消失。他将其比作即使是最博学的人偶尔也会传播错误信息。
OpenAI似乎并未依赖神秘的深度技术，而是采用了一种直接方法：水印。在一篇题为“了解我们在网上看到和听到的来源”的最近更新的博客文章中，OpenAI提到正在探索分类器、水印和元数据来识别AI生成内容。水印的具体机制仍未公开。
OpenAI声称这种方法已被证明高度准确且对局部篡改（如改写）具有韧性。然而，它难以应对全局篡改，如翻译文本或插入后删除特殊字符。此外，它并非设计用来检测其他AI模型（如Google Gemini或Perplexity）生成的内容。
本质上，只要稍加努力，学生和写作者可能仍能让AI生成的内容通过检测。从我自己的经验来看，AI生成的内容往往感觉次等，但对一些人来说，及格可能就足够了。
Reddit上一位自称是教授的用户并不信服，他表示：“问题是你可以直接将文本复制粘贴到另一个程序，翻译成另一种语言，再翻译回来。但老实说，大多数学生不会这样做，所以这几乎能抓住所有人。”
OpenAI首席执行官Sam Altman似乎对学术作弊不太担心，他对《哈佛公报》说：“在作业上作弊显然不好。但我们对作弊的定义和预期规则会随时间变化。”
我不确定是否同意这种观点。作弊就是作弊，OpenAI的这个新工具似乎无法显著解决这个问题。
有趣的是，在OpenAI讨论是否发布此文本检测服务的同时，他们正在推进DALL·E 3来源分类器。很快，几乎每张由DALL-E创建的图像都将被标记为AI生成，使用C2PA元数据。如果你是依赖DALL-E创作“原创”图形的平面设计师，可能需要重新拾起Photoshop技能了。
美国将因社交媒体法规制裁外国官员
美国站出来反对全球数字内容法规美国国务院本周针对欧洲的数字治理政策发出了尖锐的外交斥责，表明在网络平台控制权问题上的紧张局势正在升级。国务卿马可-卢比奥（Marco Rubio）公布了一项新的签证限制政策，该政策针对的是参与美国认为影响美国数字空间的过度审查的外国官员。新签证限制解释根据周三宣布的政策，美国将拒绝被认定正在执行影响美国受保护言论的海外内容法规的外国公民入境。卢比奥强调了两
人工智能驱动的 YouTube 视频摘要器终极指南
在我们信息丰富的数字环境中，人工智能驱动的 YouTube 视频摘要器已成为高效内容消费不可或缺的工具。本深度指南探讨了如何利用最先进的 NLP 技术（特别是来自 Hugging Face 的 BART 模型与 YouTube 的 Transcript API 相结合）构建复杂的摘要工具。无论您是要开发生产力工具、增强可访问性解决方案，还是要创建教育资源，本指南都能为您提供实现专业级摘要所需的一切
Atlassian 斥资 6.1 亿美元收购浏览器公司，加强开发人员工具
企业生产力软件领导者 Atlassian 宣布，计划以 6.1 亿美元的全现金交易收购创新型浏览器开发商 The Browser Company。这一战略举措旨在通过整合为现代知识工作者量身定制的人工智能功能，彻底改变工作场所的浏览方式。"Atlassian首席执行官兼联合创始人迈克-坎农-布鲁克斯（Mike Cannon-Brookes）表示："传统浏览器是为休闲网上冲浪而设计的，而不是为当
2025-04-25 08:20:51
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
0
2025-04-25 01:43:04
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
0
2025-04-24 10:17:46
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
0
2025-04-24 09:45:13
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
0
2025-04-24 08:25:23
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚
0
