Openaiの新しいAI検出ツール：学生の不正行為を防ぐためのゲームチェンジャー？

BestCollegesの調査によると、学生の半数以上が学業の成功への近道としてAIに目を向けています。これは、学生の60〜70％が不正行為に頼るスタンフォード大学の研究と一致しています。ただし、chatgptのようなAIを簡単に使用してエッセイを書く日には番号が付けられている可能性があります。ウォールストリートジャーナルの記事は、Openaiが99.9％の精度でAIに生成されたコンテンツを検出する方法を開発したと主張していることを強調しています。

私の同僚のデイビッド・ギワツツは、いくつかのプログラムがすでにAI執筆のテキストを見つけていると主張していることに注目しています。しかし、彼は懐疑的なままで、「私は確かに、学生の学問的地位を脅かしたり、これらのツールの結果に基づいて不正行為を非難していると非難していると感じていないだろう」と述べています。

Openaiは、その方法がこのようなほぼ完璧な検出をどのように達成するかについて豆をこぼしていません。 Openaiの共同設立者であるJohn Schulmanが昨年認めたように、AIの「幻覚」または誤った情報の作成の傾向をキャッチすることではありません。

機械学習テストサービスであるKolenaの共同設立者兼CEOであるMohamed Elgendyは、AIの幻覚率が低下する可能性があるが、完全に消えることはないと考えています。彼はそれを、時折誤った情報を広めることで最も教育を受けた個人でさえも比較します。

神秘的なディープテクノロジーに頼るのではなく、Openaiは簡単なアプローチを使用しているようです。 「オンラインで見たり聞いたりするもののソースを理解する」というタイトルの最近更新されたブログ投稿で、Openaiは分類器、透かし、メタデータを探索してAIに生成されたコンテンツを特定しています。この透かしの正確なメカニズムはラップの下に残ります。

Openaiは、この方法が、言い換えのような局所的な改ざんに対して非常に正確で回復力があることを証明していると主張しています。ただし、翻訳されたテキストや挿入、特殊文字の削除など、グローバル化された改ざんに苦労しています。さらに、Google GeminiやPrperxityなど、他のAIモデルによって生成されたコンテンツを検出するようには設計されていません。

本質的に、もう少し努力を払えば、学生と作家はまだ検出器を過ぎてAIに生成された作業をこっそりすることができるかもしれません。私自身の経験から、AIが生成されたコンテンツはしばしば二流を感じますが、一部の人にとっては、合格点が必要なことがすべてです。

Redditの自称教授は、「問題は、テキストを別のプログラムにコピーして別の言語に翻訳してから翻訳することができるということです。

Openai CEOのSam Altmanは、Harvard Gazetteに「宿題を不正行為することは明らかに悪い」と語り、学問的な不正行為についてあまり心配していないようです。

その視点に同意するかどうかはわかりません。不正行為は不正行為であり、Openaiからのこの新しいツールは、問題に大きなへこみになるようには見えません。

興味深いことに、Openaiはこのテキスト検出サービスのリリースについて議論していますが、彼らはDall・E 3 Provenance分類器で前進しています。まもなく、Dall-Eで作成されたほぼすべての画像は、C2PAメタデータを使用して、AIの生成としてタグ付けされます。 「オリジナル」のグラフィックスのためにDall-Eに寄りかかっているグラフィックデザイナーなら、Photoshopのスキルを磨く時が来るかもしれません。