OpenAIs neues KI-Erkennungstool: Ein Game-Changer, um das Betrug von Schülern zu verhindern?

Laut einer Umfrage von BestColleges wenden sich mehr als die Hälfte der Studenten als Abkürzung für den akademischen Erfolg der KI. Dies entspricht einer Studie der Stanford University, in der festgestellt wurde, dass zwischen 60 und 70 Prozent der Studenten auf Betrug zurückgreifen. Die Tage, in denen die mühelos mit KI -Like -Chatgpt zum Schreiben von Aufsätzen verwendet wurde, sind jedoch möglicherweise nummeriert. In einem Artikel von Wall Street Journal wird hervorgehoben, dass OpenAI behauptet, eine Methode zur Erkennung von AI-generierten Inhalten mit einer erstaunlichen Genauigkeit von 99,9% entwickelt zu haben.

Mein Kollege David Gewirtz hat festgestellt, dass mehrere Programme bereits behaupten, KI-geschriebene Text zu erkennen. Dennoch bleibt er skeptisch und erklärt: "Ich würde mich sicherlich nicht wohl fühlen, wenn er das akademische Stehen eines Schülers bedroht oder sie des Betrugs aufgrund der Ergebnisse dieser Tools beschuldigt."

OpenAI hat die Bohnen nicht darüber verschüttet, wie ihre Methode eine so nahezu perfekte Erkennung erreicht. Es geht nicht darum, die Tendenz von AI zu "halluzinieren" oder falsche Informationen zu erstellen, wie der Mitbegründer von OpenAI, John Schulman, letztes Jahr zugab:

Mohamed Elgendy, Mitbegründer und CEO von Kolena, einem maschinellen Lernen-Testdienst, ist der Ansicht, dass die Halluzinationsrate von AI zwar abnehmen kann, aber niemals vollständig verschwinden wird. Er vergleicht es selbst mit den gebildeten Personen, die gelegentlich Fehlinformationen verbreiten.

Anstatt sich auf eine mysteriöse tiefe Technologie zu verlassen, scheint Openai einen einfachen Ansatz zu verwenden: Wasserzeichen. In einem kürzlich aktualisierten Blog-Beitrag mit dem Titel "Verständnis der Quelle für das, was wir online sehen", erwähnt OpenAI, in dem Klassifikatoren, Wasserzeichen und Metadaten erforscht werden, um Inhalte von AI-generierten zu identifizieren. Die genaue Mechanik dieses Wasserzeichens bleibt unter Verschluss.

OpenAI behauptet, dass sich diese Methode als äußerst genau und widerstandsfähig gegen lokalisierte Manipulationen wie Paraphrasier erwiesen hat. Es kämpft jedoch mit globalisierten Manipulationen wie übersetztem Text oder dem Einfügen und Löschen von Sonderzeichen. Darüber hinaus ist es nicht so konzipiert, dass es Inhalte erfasst, die von anderen KI -Modellen wie Google Gemini oder Verwirrung erzeugt werden.

Im Wesentlichen können Schüler und Schriftsteller mit etwas mehr Anstrengungen in der Lage sein, die Arbeiten der A-generierten Arbeiten nach den Detektoren zu schlüpfen. Aus meiner eigenen Erfahrung fühlt sich Ai-produzierte Inhalte oft zweitklassifiziert an, aber für einige könnte eine vorübergehende Note alles sein, was benötigt wird.

Ein selbsternannter Professor in Reddit ist nicht überzeugt und erklärt: "Das Problem ist, dass Sie den Text einfach in ein anderes Programm kopieren, ihn in eine andere Sprache übersetzen und ihn dann zurücksetzen können. Aber ehrlich gesagt, die meisten Schüler werden das nicht tun, also würde es so ziemlich alle fangen."

Sam Altman, CEO von OpenAI, scheint weniger besorgt über akademisches Betrug zu sein und sagt dem Harvard Gazette: "Die Betrugsförderung ist offensichtlich schlecht. Aber was wir mit Betrug und was die erwarteten Regeln im Laufe der Zeit ändert."

Ich bin mir nicht sicher, ob ich dieser Perspektive zustimme. Betrug ist Betrug, und dieses neue Tool von OpenAI scheint nicht das Problem zu sein.

Interessanterweise diskutiert OpenAI über die Veröffentlichung dieses Texterkennungsdienstes, aber sie gehen mit einem Dall · E 3 -programme -Klassifikator voran. Bald wird fast jedes mit Dall-E erstellte Bild mithilfe von C2PA-Metadaten als AI-generiert markiert. Wenn Sie ein Grafikdesigner sind, der sich auf Dall-E für "Original" -Graphik gestützt hat, ist es möglicherweise an der Zeit, Ihre Photoshop-Fähigkeiten aufzuräumen.