OpenAIs neues KI-Erkennungstool: Ein Game-Changer, um das Betrug von Schülern zu verhindern?

Laut einer Umfrage von BestColleges wenden sich über die Hälfte der Studenten an KI als Abkürzung zum akademischen Erfolg. Dies stimmt mit einer Studie der Stanford University überein, die ergab, dass zwischen 60 und 70 Prozent der Studenten zum Schummeln greifen. Die Zeiten, in denen KI wie ChatGPT mühelos zum Schreiben von Aufsätzen genutzt werden konnte, könnten jedoch gezählt sein. Ein Artikel des Wall Street Journal hebt hervor, dass OpenAI behauptet, eine Methode entwickelt zu haben, um KI-generierte Inhalte mit einer erstaunlichen Genauigkeit von 99,9 % zu erkennen.

Mein Kollege David Gewirtz hat bemerkt, dass bereits mehrere Programme behaupten, KI-geschriebenen Text zu erkennen. Dennoch bleibt er skeptisch und erklärt: „Ich würde mich sicherlich nicht wohl dabei fühlen, den akademischen Status eines Studenten zu gefährden oder ihn des Betrugs zu beschuldigen, basierend auf den Ergebnissen dieser Tools.“

OpenAI hat nicht verraten, wie ihre Methode eine solch nahezu perfekte Erkennung erreicht. Es geht nicht darum, die Neigung von KI zu „halluzinieren“ oder falsche Informationen zu produzieren, zu erkennen, wie OpenAI-Mitbegründer John Schulman letztes Jahr zugab: „Unsere größte Sorge war die Faktizität, weil das Modell dazu neigt, Dinge zu erfinden.“

Mohamed Elgendy, Mitbegründer und CEO von Kolena, einem Testdienst für maschinelles Lernen, glaubt, dass die Halluzinationsrate von KI zwar abnehmen mag, aber nie vollständig verschwinden wird. Er vergleicht dies mit selbst den gebildetsten Personen, die gelegentlich Fehlinformationen verbreiten.

Anstatt sich auf geheimnisvolle tiefe Technologie zu verlassen, scheint OpenAI einen unkomplizierten Ansatz zu verfolgen: Wasserzeichen. In einem kürzlich aktualisierten Blogbeitrag mit dem Titel „Die Quelle dessen verstehen, was wir online sehen und hören“, erwähnt OpenAI, dass sie Klassifikatoren, Wasserzeichen und Metadaten erforschen, um KI-generierte Inhalte zu identifizieren. Die genaue Funktionsweise dieser Wasserzeichen bleibt geheim.

OpenAI behauptet, diese Methode sei hochpräzise und widerstandsfähig gegen lokale Manipulationen wie Paraphrasieren. Sie hat jedoch Schwierigkeiten mit globalen Manipulationen, wie übersetztem Text oder dem Einfügen und anschließenden Löschen spezieller Zeichen. Außerdem ist sie nicht darauf ausgelegt, Inhalte zu erkennen, die von anderen KI-Modellen wie Google Gemini oder Perplexity produziert wurden.

Im Wesentlichen könnten Studenten und Autoren mit etwas mehr Aufwand immer noch in der Lage sein, KI-generierte Arbeiten an Detektoren vorbeizuschleusen. Aus meiner eigenen Erfahrung fühlen sich KI-generierte Inhalte oft zweitklassig an, aber für manche reicht vielleicht eine ausreichende Note.

Ein selbsternannter Professor auf Reddit ist nicht überzeugt und erklärt: „Das Problem ist, dass man den Text einfach in ein anderes Programm kopieren, in eine andere Sprache übersetzen und dann zurückübersetzen kann. Aber ehrlich gesagt, die meisten Studenten werden das nicht tun, also würde es so ziemlich jeden erwischen.“

OpenAI-CEO Sam Altman scheint weniger besorgt über akademisches Schummeln und sagte der Harvard Gazette: „Schummeln bei Hausaufgaben ist offensichtlich schlecht. Aber was wir unter Schummeln verstehen und welche Regeln erwartet werden, ändert sich im Laufe der Zeit.“

Ich bin mir nicht sicher, ob ich dieser Perspektive zustimme. Schummeln ist Schummeln, und dieses neue Tool von OpenAI scheint keinen signifikanten Einfluss auf das Problem zu haben.

Interessanterweise, während OpenAI über die Veröffentlichung dieses Textdetektionsdienstes diskutiert, gehen sie mit einem DALL·E 3 Provenienz-Klassifikator voran. Bald wird fast jedes mit DALL-E erstellte Bild als KI-generiert gekennzeichnet, unter Verwendung von C2PA-Metadaten. Wenn du ein Grafikdesigner bist, der sich auf DALL-E für „originale“ Grafiken gestützt hat, könnte es an der Zeit sein, deine Photoshop-Fähigkeiten aufzufrischen.