Openai的新AI检测工具:改变学生作弊的游戏规则?

根据BestColleges的调查,超过一半的学生使用AI作为学术成功的捷径。这与斯坦福大学的研究一致,该研究发现60%至70%的学生诉诸作弊。然而,轻松使用ChatGPT等AI撰写论文的日子可能不多了。《华尔街日报》的一篇文章指出,OpenAI声称已开发出一种检测AI生成内容的准确率高达99.9%的方法。
我的同事David Gewirtz指出,已有多个程序声称能识别AI撰写的文本。然而,他持怀疑态度,表示:“我肯定不会仅凭这些工具的结果就威胁学生的学术地位或指控他们作弊。”
OpenAI尚未透露其方法如何实现如此接近完美的检测。这不是因为AI容易“幻觉”或生成虚假信息,正如OpenAI联合创始人John Schulman去年承认:“我们最大的担忧是事实性,因为模型喜欢捏造内容。”
Kolena的联合创始人兼首席执行官Mohamed Elgendy认为,虽然AI的幻觉率可能降低,但永远不会完全消失。他将其比作即使是最博学的人偶尔也会传播错误信息。
OpenAI似乎并未依赖神秘的深度技术,而是采用了一种直接方法:水印。在一篇题为“了解我们在网上看到和听到的来源”的最近更新的博客文章中,OpenAI提到正在探索分类器、水印和元数据来识别AI生成内容。水印的具体机制仍未公开。
OpenAI声称这种方法已被证明高度准确且对局部篡改(如改写)具有韧性。然而,它难以应对全局篡改,如翻译文本或插入后删除特殊字符。此外,它并非设计用来检测其他AI模型(如Google Gemini或Perplexity)生成的内容。
本质上,只要稍加努力,学生和写作者可能仍能让AI生成的内容通过检测。从我自己的经验来看,AI生成的内容往往感觉次等,但对一些人来说,及格可能就足够了。
Reddit上一位自称是教授的用户并不信服,他表示:“问题是你可以直接将文本复制粘贴到另一个程序,翻译成另一种语言,再翻译回来。但老实说,大多数学生不会这样做,所以这几乎能抓住所有人。”
OpenAI首席执行官Sam Altman似乎对学术作弊不太担心,他对《哈佛公报》说:“在作业上作弊显然不好。但我们对作弊的定义和预期规则会随时间变化。”
我不确定是否同意这种观点。作弊就是作弊,OpenAI的这个新工具似乎无法显著解决这个问题。
有趣的是,在OpenAI讨论是否发布此文本检测服务的同时,他们正在推进DALL·E 3来源分类器。很快,几乎每张由DALL-E创建的图像都将被标记为AI生成,使用C2PA元数据。如果你是依赖DALL-E创作“原创”图形的平面设计师,可能需要重新拾起Photoshop技能了。
相关文章
小红书进行组织架构调整:柯南出任总裁,新设AI主营部门Dots及海外业务部门Rednote
4月30日,小红书向全体员工发布内部通告,宣布启动新一轮组织架构调整。此次调整的核心在于将社区、电商和商业化三大业务线与公司的技术系统全面整合。 公司新设了名为“Dots”的AI优先部门,这标志着小红书已正式将AI提升为最高战略优先级,旨在使其从工具性功能转变为核心生产力。在人事任命方面,南(丁玲)被任命为小红书总裁,负责公司核心业务运营,并直接向CEO邢宇汇报。 各业务板块负责人也已明确:智恒将
腾讯旗下“小龙虾”表现远超预期,团队将运力扩大10倍,并致歉及提供补偿
腾讯正式推出全场景AI智能助手“WorkBuddy”,凭借高度集成和低部署门槛,标志着大型模型应用层竞争进入新阶段。该产品在发布当天便引发了业界广泛关注。 用户流量远超预期,导致相关产品腾讯云代码助手(CodeBuddy)出现登录故障及服务不稳定。腾讯云团队随后发布致歉声明,表示技术团队已紧急将容量扩容十倍,目前服务已全面恢复。受影响用户获得了5,000腾讯云代金券作为补偿。业界观察人士将Work
Suno领投方:删除帖子无法填补版权诉讼的漏洞
备受瞩目的AI音乐生成平台Suno正面临一场艰难的版权诉讼,而其领投投资人的坦率言论,可能恰恰为对方提供了他们梦寐以求的证据。 Menlo Ventures(Suno的核心投资者)合伙人C.C. Gong近日删除了一个推文,该推文与公司当前的法律辩护策略直接相悖。在之前的版权诉讼中,Suno的辩护主要依赖“合理使用”的论点,声称AI生成的音乐仅仅是一种“工具”,既不会直接与受版权保护的原创作品竞争
相关专题推荐
评论 (6)
0/500
이런 AI 탐지 도구가 나오니 대학 과제 평가 방식이 완전히 바뀌겠네요. 기술 발전이 빠르지만, 학생들의 창의성을 오히려 저해할 수도 있을 것 같아 조금 걱정되네요 🤔 이제는 AI와 인간의 경계가 흐려지는 시대인가요?
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚

根据BestColleges的调查,超过一半的学生使用AI作为学术成功的捷径。这与斯坦福大学的研究一致,该研究发现60%至70%的学生诉诸作弊。然而,轻松使用ChatGPT等AI撰写论文的日子可能不多了。《华尔街日报》的一篇文章指出,OpenAI声称已开发出一种检测AI生成内容的准确率高达99.9%的方法。
我的同事David Gewirtz指出,已有多个程序声称能识别AI撰写的文本。然而,他持怀疑态度,表示:“我肯定不会仅凭这些工具的结果就威胁学生的学术地位或指控他们作弊。”
OpenAI尚未透露其方法如何实现如此接近完美的检测。这不是因为AI容易“幻觉”或生成虚假信息,正如OpenAI联合创始人John Schulman去年承认:“我们最大的担忧是事实性,因为模型喜欢捏造内容。”
Kolena的联合创始人兼首席执行官Mohamed Elgendy认为,虽然AI的幻觉率可能降低,但永远不会完全消失。他将其比作即使是最博学的人偶尔也会传播错误信息。
OpenAI似乎并未依赖神秘的深度技术,而是采用了一种直接方法:水印。在一篇题为“了解我们在网上看到和听到的来源”的最近更新的博客文章中,OpenAI提到正在探索分类器、水印和元数据来识别AI生成内容。水印的具体机制仍未公开。
OpenAI声称这种方法已被证明高度准确且对局部篡改(如改写)具有韧性。然而,它难以应对全局篡改,如翻译文本或插入后删除特殊字符。此外,它并非设计用来检测其他AI模型(如Google Gemini或Perplexity)生成的内容。
本质上,只要稍加努力,学生和写作者可能仍能让AI生成的内容通过检测。从我自己的经验来看,AI生成的内容往往感觉次等,但对一些人来说,及格可能就足够了。
Reddit上一位自称是教授的用户并不信服,他表示:“问题是你可以直接将文本复制粘贴到另一个程序,翻译成另一种语言,再翻译回来。但老实说,大多数学生不会这样做,所以这几乎能抓住所有人。”
OpenAI首席执行官Sam Altman似乎对学术作弊不太担心,他对《哈佛公报》说:“在作业上作弊显然不好。但我们对作弊的定义和预期规则会随时间变化。”
我不确定是否同意这种观点。作弊就是作弊,OpenAI的这个新工具似乎无法显著解决这个问题。
有趣的是,在OpenAI讨论是否发布此文本检测服务的同时,他们正在推进DALL·E 3来源分类器。很快,几乎每张由DALL-E创建的图像都将被标记为AI生成,使用C2PA元数据。如果你是依赖DALL-E创作“原创”图形的平面设计师,可能需要重新拾起Photoshop技能了。
小红书进行组织架构调整:柯南出任总裁,新设AI主营部门Dots及海外业务部门Rednote
4月30日,小红书向全体员工发布内部通告,宣布启动新一轮组织架构调整。此次调整的核心在于将社区、电商和商业化三大业务线与公司的技术系统全面整合。 公司新设了名为“Dots”的AI优先部门,这标志着小红书已正式将AI提升为最高战略优先级,旨在使其从工具性功能转变为核心生产力。在人事任命方面,南(丁玲)被任命为小红书总裁,负责公司核心业务运营,并直接向CEO邢宇汇报。 各业务板块负责人也已明确:智恒将
腾讯旗下“小龙虾”表现远超预期,团队将运力扩大10倍,并致歉及提供补偿
腾讯正式推出全场景AI智能助手“WorkBuddy”,凭借高度集成和低部署门槛,标志着大型模型应用层竞争进入新阶段。该产品在发布当天便引发了业界广泛关注。 用户流量远超预期,导致相关产品腾讯云代码助手(CodeBuddy)出现登录故障及服务不稳定。腾讯云团队随后发布致歉声明,表示技术团队已紧急将容量扩容十倍,目前服务已全面恢复。受影响用户获得了5,000腾讯云代金券作为补偿。业界观察人士将Work
Suno领投方:删除帖子无法填补版权诉讼的漏洞
备受瞩目的AI音乐生成平台Suno正面临一场艰难的版权诉讼,而其领投投资人的坦率言论,可能恰恰为对方提供了他们梦寐以求的证据。 Menlo Ventures(Suno的核心投资者)合伙人C.C. Gong近日删除了一个推文,该推文与公司当前的法律辩护策略直接相悖。在之前的版权诉讼中,Suno的辩护主要依赖“合理使用”的论点,声称AI生成的音乐仅仅是一种“工具”,既不会直接与受版权保护的原创作品竞争
이런 AI 탐지 도구가 나오니 대학 과제 평가 방식이 완전히 바뀌겠네요. 기술 발전이 빠르지만, 학생들의 창의성을 오히려 저해할 수도 있을 것 같아 조금 걱정되네요 🤔 이제는 AI와 인간의 경계가 흐려지는 시대인가요?
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚





首页






