Openai的新AI检测工具:改变学生作弊的游戏规则?

根据BestColleges的调查,超过一半的学生使用AI作为学术成功的捷径。这与斯坦福大学的研究一致,该研究发现60%至70%的学生诉诸作弊。然而,轻松使用ChatGPT等AI撰写论文的日子可能不多了。《华尔街日报》的一篇文章指出,OpenAI声称已开发出一种检测AI生成内容的准确率高达99.9%的方法。
我的同事David Gewirtz指出,已有多个程序声称能识别AI撰写的文本。然而,他持怀疑态度,表示:“我肯定不会仅凭这些工具的结果就威胁学生的学术地位或指控他们作弊。”
OpenAI尚未透露其方法如何实现如此接近完美的检测。这不是因为AI容易“幻觉”或生成虚假信息,正如OpenAI联合创始人John Schulman去年承认:“我们最大的担忧是事实性,因为模型喜欢捏造内容。”
Kolena的联合创始人兼首席执行官Mohamed Elgendy认为,虽然AI的幻觉率可能降低,但永远不会完全消失。他将其比作即使是最博学的人偶尔也会传播错误信息。
OpenAI似乎并未依赖神秘的深度技术,而是采用了一种直接方法:水印。在一篇题为“了解我们在网上看到和听到的来源”的最近更新的博客文章中,OpenAI提到正在探索分类器、水印和元数据来识别AI生成内容。水印的具体机制仍未公开。
OpenAI声称这种方法已被证明高度准确且对局部篡改(如改写)具有韧性。然而,它难以应对全局篡改,如翻译文本或插入后删除特殊字符。此外,它并非设计用来检测其他AI模型(如Google Gemini或Perplexity)生成的内容。
本质上,只要稍加努力,学生和写作者可能仍能让AI生成的内容通过检测。从我自己的经验来看,AI生成的内容往往感觉次等,但对一些人来说,及格可能就足够了。
Reddit上一位自称是教授的用户并不信服,他表示:“问题是你可以直接将文本复制粘贴到另一个程序,翻译成另一种语言,再翻译回来。但老实说,大多数学生不会这样做,所以这几乎能抓住所有人。”
OpenAI首席执行官Sam Altman似乎对学术作弊不太担心,他对《哈佛公报》说:“在作业上作弊显然不好。但我们对作弊的定义和预期规则会随时间变化。”
我不确定是否同意这种观点。作弊就是作弊,OpenAI的这个新工具似乎无法显著解决这个问题。
有趣的是,在OpenAI讨论是否发布此文本检测服务的同时,他们正在推进DALL·E 3来源分类器。很快,几乎每张由DALL-E创建的图像都将被标记为AI生成,使用C2PA元数据。如果你是依赖DALL-E创作“原创”图形的平面设计师,可能需要重新拾起Photoshop技能了。
相关文章
苹果智能眼镜或将在WWDC27上首次亮相,重点突出隐私保护
彭博社的马克·古尔曼报道,苹果智能眼镜(内部代号 N50)计划于 2027 年 6 月的全球开发者大会(WWDC27)上首次亮相,零售版预计将于 2027 年秋季上市。该设备原定于今年晚些时候及 2027 年初发布,但现已推迟,以便进行进一步的产品完善并加强隐私保护协议。隐私仍是苹果智能眼镜战略的核心支柱。从 Meta 等竞争对手的隐私争议中吸取教训,苹果正在实施强有力的功能与政策。目前考虑的方案包括:完全移除摄像头,专注于人工智能交互、音频播放和通话;或保留摄像头但禁用照片和视频录制功能,仅
内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧
报告显示,谷歌备受期待的下一代 Gemini 模型发布已被推迟。由于内部在开发优先级和资源分配上存在分歧,加上计算能力有限以及复杂的审批流程,导致发布时间延后了两个月。尽管谷歌拥有定制的 TPU 芯片,但由于模型训练、Google Cloud 服务以及众多消费和企业级 AI 应用对计算资源的需求相互竞争,谷歌仍面临计算资源短缺的问题。目前,高层管理人员正通过组织结构调整来解决这些部门间的冲突。与此同时,领导层也发生了变化,联合创始人谢尔盖·布林越来越多地参与到核心模型训练中,并倡导将资源专门用于
OpenAI 否认增长放缓担忧,称多个业务部门加速发展
针对外界对其销售增长放缓及未达内部基准的质疑,人工智能领域的领军企业 OpenAI 于 4 月 28 日(星期二)发表了一份信心十足的声明。该公司澄清称,其消费产品和企业服务正在快速推进,直接驳斥了近期关于业务放缓的猜测。针对该公司“未达成多项内部目标”的说法,OpenAI 将这些报道斥为“典型的标题党”。公司强调了企业对 AI 集成的强劲需求,并指出其广告业务早期增长前景良好。据 OpenAI 内部人士透露,公司内部情绪依然乐观。尽管市场竞争日益激烈,但公司正在向投资者传递信心,声称其商业
相关专题推荐
评论 (6)
0/500
이런 AI 탐지 도구가 나오니 대학 과제 평가 방식이 완전히 바뀌겠네요. 기술 발전이 빠르지만, 학생들의 창의성을 오히려 저해할 수도 있을 것 같아 조금 걱정되네요 🤔 이제는 AI와 인간의 경계가 흐려지는 시대인가요?
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚

根据BestColleges的调查,超过一半的学生使用AI作为学术成功的捷径。这与斯坦福大学的研究一致,该研究发现60%至70%的学生诉诸作弊。然而,轻松使用ChatGPT等AI撰写论文的日子可能不多了。《华尔街日报》的一篇文章指出,OpenAI声称已开发出一种检测AI生成内容的准确率高达99.9%的方法。
我的同事David Gewirtz指出,已有多个程序声称能识别AI撰写的文本。然而,他持怀疑态度,表示:“我肯定不会仅凭这些工具的结果就威胁学生的学术地位或指控他们作弊。”
OpenAI尚未透露其方法如何实现如此接近完美的检测。这不是因为AI容易“幻觉”或生成虚假信息,正如OpenAI联合创始人John Schulman去年承认:“我们最大的担忧是事实性,因为模型喜欢捏造内容。”
Kolena的联合创始人兼首席执行官Mohamed Elgendy认为,虽然AI的幻觉率可能降低,但永远不会完全消失。他将其比作即使是最博学的人偶尔也会传播错误信息。
OpenAI似乎并未依赖神秘的深度技术,而是采用了一种直接方法:水印。在一篇题为“了解我们在网上看到和听到的来源”的最近更新的博客文章中,OpenAI提到正在探索分类器、水印和元数据来识别AI生成内容。水印的具体机制仍未公开。
OpenAI声称这种方法已被证明高度准确且对局部篡改(如改写)具有韧性。然而,它难以应对全局篡改,如翻译文本或插入后删除特殊字符。此外,它并非设计用来检测其他AI模型(如Google Gemini或Perplexity)生成的内容。
本质上,只要稍加努力,学生和写作者可能仍能让AI生成的内容通过检测。从我自己的经验来看,AI生成的内容往往感觉次等,但对一些人来说,及格可能就足够了。
Reddit上一位自称是教授的用户并不信服,他表示:“问题是你可以直接将文本复制粘贴到另一个程序,翻译成另一种语言,再翻译回来。但老实说,大多数学生不会这样做,所以这几乎能抓住所有人。”
OpenAI首席执行官Sam Altman似乎对学术作弊不太担心,他对《哈佛公报》说:“在作业上作弊显然不好。但我们对作弊的定义和预期规则会随时间变化。”
我不确定是否同意这种观点。作弊就是作弊,OpenAI的这个新工具似乎无法显著解决这个问题。
有趣的是,在OpenAI讨论是否发布此文本检测服务的同时,他们正在推进DALL·E 3来源分类器。很快,几乎每张由DALL-E创建的图像都将被标记为AI生成,使用C2PA元数据。如果你是依赖DALL-E创作“原创”图形的平面设计师,可能需要重新拾起Photoshop技能了。
苹果智能眼镜或将在WWDC27上首次亮相,重点突出隐私保护
彭博社的马克·古尔曼报道,苹果智能眼镜(内部代号 N50)计划于 2027 年 6 月的全球开发者大会(WWDC27)上首次亮相,零售版预计将于 2027 年秋季上市。该设备原定于今年晚些时候及 2027 年初发布,但现已推迟,以便进行进一步的产品完善并加强隐私保护协议。隐私仍是苹果智能眼镜战略的核心支柱。从 Meta 等竞争对手的隐私争议中吸取教训,苹果正在实施强有力的功能与政策。目前考虑的方案包括:完全移除摄像头,专注于人工智能交互、音频播放和通话;或保留摄像头但禁用照片和视频录制功能,仅
内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧
报告显示,谷歌备受期待的下一代 Gemini 模型发布已被推迟。由于内部在开发优先级和资源分配上存在分歧,加上计算能力有限以及复杂的审批流程,导致发布时间延后了两个月。尽管谷歌拥有定制的 TPU 芯片,但由于模型训练、Google Cloud 服务以及众多消费和企业级 AI 应用对计算资源的需求相互竞争,谷歌仍面临计算资源短缺的问题。目前,高层管理人员正通过组织结构调整来解决这些部门间的冲突。与此同时,领导层也发生了变化,联合创始人谢尔盖·布林越来越多地参与到核心模型训练中,并倡导将资源专门用于
OpenAI 否认增长放缓担忧,称多个业务部门加速发展
针对外界对其销售增长放缓及未达内部基准的质疑,人工智能领域的领军企业 OpenAI 于 4 月 28 日(星期二)发表了一份信心十足的声明。该公司澄清称,其消费产品和企业服务正在快速推进,直接驳斥了近期关于业务放缓的猜测。针对该公司“未达成多项内部目标”的说法,OpenAI 将这些报道斥为“典型的标题党”。公司强调了企业对 AI 集成的强劲需求,并指出其广告业务早期增长前景良好。据 OpenAI 内部人士透露,公司内部情绪依然乐观。尽管市场竞争日益激烈,但公司正在向投资者传递信心,声称其商业
이런 AI 탐지 도구가 나오니 대학 과제 평가 방식이 완전히 바뀌겠네요. 기술 발전이 빠르지만, 학생들의 창의성을 오히려 저해할 수도 있을 것 같아 조금 걱정되네요 🤔 이제는 AI와 인간의 경계가 흐려지는 시대인가요?
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚





首页






