Openaiの新しいAI検出ツール：学生の不正行為を防ぐためのゲームチェンジャー？

BestCollegesの調査によると、学生の半数以上が学業の成功への近道としてAIを利用しています。これは、スタンフォード大学の研究で、60〜70％の学生が不正行為に頼っていることがわかった結果と一致しています。しかし、ChatGPTのようなAIを使って簡単にエッセイを書く時代は終わりつつあるかもしれません。ウォール・ストリート・ジャーナルの記事によると、OpenAIはAI生成コンテンツを99.9％の精度で検出する方法を開発したと主張しています。

私の同僚デビッド・ガーツは、すでにいくつかのプログラムがAIで書かれたテキストを特定できると主張していると指摘しています。しかし、彼は懐疑的で、「これらのツールの結果に基づいて学生の学業上の地位を脅かしたり、不正行為を非難したりすることには、確かに安心感がありません」と述べています。

OpenAIは、このほぼ完璧な検出を達成する方法について詳細を明らかにしていません。AIが「幻覚」を起こしたり、誤った情報を生成する傾向を捉えるものではなく、OpenAIの共同創業者ジョン・シュルマンは昨年、「私たちの最大の懸念は事実性に関するもので、モデルは物事を捏造するのが好きだからです」と認めました。

機械学習テストサービスであるKolenaの共同創業者兼CEOのモハメド・エルゲンディは、AIの幻覚率は減少するかもしれないが、完全に消えることはないと考えています。彼はそれを、最も教育を受けた人々が時折誤情報を広めることに例えています。

神秘的なディープテックに頼るのではなく、OpenAIは簡単なアプローチ、つまりウォーターマーキングを使用しているようです。最近更新されたブログ記事「オンラインで私たちが見聞きするものの出所を理解する」の中で、OpenAIはAI生成コンテンツを特定するために、分類器、ウォーターマーキング、メタデータを探求していると述べています。このウォーターマーキングの正確な仕組みは依然として秘密です。

OpenAIは、この方法が非常に正確で、言い換えのような局所的な改ざんに対して耐性があると主張しています。しかし、翻訳されたテキストや特殊文字の挿入と削除のようなグローバルな改ざんには対応できません。さらに、Google GeminiやPerplexityのような他のAIモデルによって生成されたコンテンツを検出するようには設計されていません。

要するに、少し努力すれば、学生やライターはAI生成の作品を検出器をすり抜けることができるかもしれません。私自身の経験から、AI生成コンテンツはしばしば二流に感じられますが、一部の人にとっては合格点を取るだけで十分かもしれません。

Redditで自称教授は納得しておらず、「問題は、テキストを別のプログラムにコピー＆ペーストして別の言語に翻訳し、再度翻訳し直すだけでいいことです。でも、正直、ほとんどの学生はそんなことはしないので、ほぼ全員を捕まえることができます」と述べています。

OpenAIのCEOサム・アルトマンは、学業上の不正についてあまり懸念していないようで、The Harvard Gazetteに対し、「宿題での不正は明らかに悪いことです。しかし、不正の意味や期待されるルールは時間とともに変化します」と語っています。

私はその視点に同意するかどうかわかりません。不正は不正であり、OpenAIのこの新ツールは問題に大きな影響を与えるようには思えません。

興味深いことに、OpenAIがこのテキスト検出サービスの公開を議論している一方で、DALL·E 3の出自分類器を進めています。まもなく、DALL-Eで作成されたほぼすべての画像が、C2PAメタデータを使用してAI生成としてタグ付けされます。「オリジナル」グラフィックのためにDALL-Eに頼ってきたグラフィックデザイナーは、Photoshopのスキルを磨く時期かもしれません。