Новый инструмент обнаружения ИИ Openai: изменяющий игру в предотвращении мошенничества студентов?

Согласно опросу BestColleges, более половины студентов обращаются к ИИ как к кратчайшему пути к академическому успеху. Это согласуется с исследованием Стэнфордского университета, которое показало, что от 60 до 70 процентов студентов прибегают к списыванию. Однако дни, когда можно было без усилий использовать ИИ, такой как ChatGPT, для написания эссе, возможно, сочтены. Статья в The Wall Street Journal подчеркивает, что OpenAI утверждает, что разработала метод обнаружения контента, созданного ИИ, с поразительной точностью 99,9%.

Мой коллега Дэвид Гевирц отметил, что несколько программ уже заявляют о способности распознавать текст, написанный ИИ. Тем не менее, он остается скептичен, заявляя: «Я определенно не чувствовал бы себя комфортно, угрожая академическому статусу студента или обвиняя его в списывании на основе результатов этих инструментов».

OpenAI не раскрывает деталей того, как их метод достигает такой почти идеальной точности обнаружения. Речь идет не о выявлении склонности ИИ к «галлюцинациям» или созданию ложной информации, как признал сооснователь OpenAI Джон Шульман в прошлом году: «Наибольшую озабоченность у нас вызывала фактическая точность, потому что модель любит выдумывать вещи».

Мохамед Эльгенди, сооснователь и генеральный директор Kolena, сервиса тестирования машинного обучения, считает, что, хотя уровень «галлюцинаций» ИИ может снизиться, он никогда не исчезнет полностью. Он сравнивает это с тем, как даже самые образованные люди иногда распространяют дезинформацию.

Вместо того чтобы полагаться на какую-то загадочную глубокую технологию, OpenAI, похоже, использует простой подход: водяные знаки. В недавно обновленном посте в блоге под названием «Понимание источника того, что мы видим и слышим в Интернете» OpenAI упоминает исследование классификаторов, водяных знаков и метаданных для идентификации контента, созданного ИИ. Точные механизмы этого водяного знака остаются засекреченными.

OpenAI утверждает, что этот метод оказался очень точным и устойчивым к локальным вмешательствам, таким как перефразирование. Однако он плохо справляется с глобальными вмешательствами, такими как перевод текста или вставка и последующее удаление специальных символов. Более того, он не предназначен для обнаружения контента, созданного другими моделями ИИ, такими как Google Gemini или Perplexity.

По сути, приложив немного больше усилий, студенты и писатели все еще могут обойти детекторы контента, созданного ИИ. Из моего собственного опыта, контент, созданный ИИ, часто кажется второсортным, но для некоторых достаточно просто сдать работу.

Самопровозглашенный профессор на Reddit не убежден, заявляя: «Проблема в том, что вы можете просто скопировать текст в другую программу, перевести его на другой язык, а затем перевести обратно. Но, честно говоря, большинство студентов этого не сделают, так что это поймает практически всех».

Генеральный директор OpenAI Сэм Альтман, похоже, меньше озабочен академическим списыванием, заявив The Harvard Gazette: «Списывание на домашнем задании, очевидно, плохо. Но то, что мы подразумеваем под списыванием, и какие правила ожидаются, со временем меняется».

Я не уверен, что согласен с этой точкой зрения. Списывание есть списывание, и этот новый инструмент от OpenAI, похоже, не сильно изменит ситуацию.

Интересно, что, пока OpenAI обсуждает выпуск этого сервиса для обнаружения текста, они продвигаются вперед с классификатором происхождения DALL·E 3. Скоро почти каждое изображение, созданное с помощью DALL-E, будет помечено как созданное ИИ с использованием метаданных C2PA. Если вы графический дизайнер, который полагался на DALL-E для создания «оригинальных» изображений, возможно, пришло время освежить свои навыки в Photoshop.