Новый инструмент обнаружения ИИ Openai: изменяющий игру в предотвращении мошенничества студентов?

Согласно опросу BestColleges, более половины студентов обращаются к ИИ в качестве ярлыка к академическому успеху. Это соответствует исследованию Стэнфордского университета, которое обнаружило от 60 до 70 процентов студентов прибегает к мошенничеству. Тем не менее, дни без особых усилий использовали ИИ, как чатгпт для написания эссе, могут быть пронумерованы. В статье Wall Street Journal подчеркивается, что OpenAI утверждает, что разработала метод обнаружения сгенерированного AI контента с ошеломляющей точностью 99,9%.

Мой коллега Дэвид Гевиртц отметил, что несколько программ уже утверждают, что выясняют текст, написанный в АИ. Тем не менее, он остается скептически настроенным, заявляя: «Я, конечно, не буду чувствовать себя комфортно, угрожая академическому положению студента или обвиняю их в мошенничестве на основе результатов этих инструментов».

OpenAI не пролил бобы на то, как их метод достигает такого почти идеального обнаружения. Речь идет не о том, чтобы поймать тенденцию ИИ «галлюцинаться» или производить ложную информацию, как соучредитель OpenaI Джон Шулман признал в прошлом году: «Наша самая большая забота была связана с фактической точностью, потому что модель любит сфабриковать вещи».

Мохамед Элгенди, соучредитель и генеральный директор Kolena, службы тестирования машинного обучения, считает, что, хотя уровень галлюцинации ИИ может уменьшаться, она никогда не исчезнет полностью. Он сравнивает это с даже самыми образованными людьми, иногда распространяющими дезинформацию.

Вместо того, чтобы полагаться на какую -то таинственную глубокую технологию, OpenAI, кажется, использует простой подход: водяной маркировку. В недавно обновленном сообщении в блоге под названием «Понимание источника того, что мы видим и слышим в Интернете», Openai упоминает, что изучает классификаторы, водяные знаки и метаданные для определения контента, сгенерированного AI. Точная механика этого знания водяной картины остается в обертках.

OpenAI утверждает, что этот метод оказался высоким точным и устойчивым против локализованного фальсификации, как перефразирование. Тем не менее, он борется с глобализированным фальсификацией, таким как переведенный текст или вставка, а затем удаление специальных символов. Более того, он не предназначен для обнаружения контента, производимого другими моделями ИИ, такими как Google Gemini или Nemploexity.

По сути, с некоторыми большими усилиями, студенты и писатели все еще могут проникнуть в AI, созданные прошедшими детекторами. Исходя из моего собственного опыта, контент, созданный AI, часто чувствует себя второстепенным, но для некоторых мимолетный сорт может быть всем, что нужно.

Самопровозглашенный профессор в Reddit не убежден, заявив, что «проблема в том, что вы можете просто скопировать текст в другую программу, перевести его на другой язык, а затем перевести его обратно. Но, честно говоря, большинство студентов не собираются этого делать, поэтому он поймает почти всех».

Генеральный директор Openai Сэм Альтман, кажется, менее обеспокоен академическим мошенничеством, рассказывая «Гарвардской газете»: «Обман на домашнюю работу, очевидно, плохо. Но то, что мы подразумеваем под мошенничеством и то, что ожидаемые правила, со временем меняется».

Я не уверен, что согласен с этой перспективой. Обман - это мошенничество, и этот новый инструмент от Openai не кажется, что он значительно повлияет на проблему.

Интересно, что в то время как OpenAI обсуждает выпуск этой службы обнаружения текста, они продвигаются вперед с помощью классификатора Provenance Dall · E 3. Вскоре почти каждое изображение, созданное с Dall-E, будет помечено как сгенерированное AI с использованием метаданных C2PA. Если вы графический дизайнер, который опирается на Dall-E для «оригинальной» графики, может быть, пришло время освежить ваши навыки Photoshop.