OpenAi의 새로운 AI 탐지 도구 : 학생의 부정 행위를 방지하는 게임 체인저?

BestColleges의 설문 조사에 따르면, 학생의 절반 이상이 학업 성공의 지름길로 AI로 전환하고 있습니다. 이것은 학생들의 60 ~ 70 %가 부정 행위에 의지하는 스탠포드 대학 연구와 일치합니다. 그러나 chatgpt와 같은 AI를 쉽게 사용하여 에세이를 작성하는 시대는 번호가 매겨 질 수 있습니다. 월스트리트 저널 기사는 OpenAI가 99.9%의 정확도로 AI 생성 컨텐츠를 감지하는 방법을 개발했다고 주장한다고 강조합니다.

저의 동료 인 David Gewirtz는 여러 프로그램이 이미 AI 작성 텍스트를 발견한다고 주장했다고 ​​언급했습니다. 그러나 그는 회의적이며 "나는 이러한 도구의 결과를 바탕으로 학생의 학업을 위협하거나 부정 행위를 비난하는 것이 편안하지 않을 것입니다."

Openai는 자신의 방법이 거의 완벽한 감지를 달성하는 방법에 대해 콩을 쏟지 않았습니다. Openai의 공동 창립자 인 John Schulman이 작년에 인정한 것처럼 AI의 "환각"또는 허위 정보를 제작하려는 경향을 포착하는 것은 아닙니다.

기계 학습 테스트 서비스 인 Kolena의 공동 창립자이자 CEO 인 Mohamed Elgendy는 AI의 환각율이 감소 할 수 있지만 결코 사라지지 않을 것이라고 생각합니다. 그는 그것을 가장 많이 교육받은 개인조차도 때때로 잘못된 정보를 전파하는 것과 비교합니다.

Openai는 신비한 깊은 기술에 의존하기보다는 워터 마킹이라는 간단한 접근 방식을 사용하는 것 같습니다. OpenAi는 최근 업데이트 된 블로그 게시물 "온라인에서보고 듣는 소스 이해"라는 제목의 블로그 게시물에서 분류기, 워터 마킹 및 메타 데이터를 탐색하여 AI 생성 컨텐츠를 식별하는 것을 언급합니다. 이 워터 마킹의 정확한 역학은 랩 아래에 남아 있습니다.

Openai는이 방법이 역설과 같은 현지화 변조에 대해 매우 정확하고 탄력적 인 것으로 입증되었다고 주장했다. 그러나 번역 된 텍스트 또는 삽입 및 특수 문자 삭제와 같은 세계화 변조로 어려움을 겪고 있습니다. 또한 Google Gemini 또는 Perplexity와 같은 다른 AI 모델에서 생성 된 컨텐츠를 감지하도록 설계되지 않았습니다.

본질적으로, 좀 더 노력하면서, 학생과 작가는 여전히 AI 생성 작업을 과거로 생성 할 수있을 것입니다. 내 자신의 경험에서 AI 제작 된 콘텐츠는 종종 2 차 느낌을 느끼지만 일부는 통과 등급이 필요한 전부 일 수 있습니다.

Reddit에 대한 스스로 선언 한 교수는 설득력이 없다고 확신하지 못합니다. "문제는 텍스트를 다른 프로그램으로 복사하고 다른 언어로 번역 한 다음 다시 번역 할 수 있다는 것입니다. 그러나 솔직히 말해서 대부분의 학생들은 그렇게하지 않기 때문에 거의 모든 사람을 잡을 것입니다."

Openai의 CEO Sam Altman은 학업 부정 행위에 대해 덜 걱정하는 것처럼 보이며 하버드 공보에 "숙제를 속이는 것은 분명히 나쁘다. 그러나 우리가 부정 행위를함으로써 의미하는 바는 시간이 지남에 따라 무엇이 바뀌는 지"라고 말했다.

나는 그 관점에 동의하는지 확신하지 못한다. 부정 행위는 속임수이며 OpenAi 의이 새로운 도구는 문제가 심각한 문제를 일으킬 것 같지 않습니다.

흥미롭게도 OpenAi는이 텍스트 탐지 서비스의 출시에 대해 토론하지만 Dall · E 3 Provenance Classifier로 전진하고 있습니다. 곧 Dall-E로 만든 거의 모든 이미지는 C2PA 메타 데이터를 사용하여 AI 생성으로 태그됩니다. Dall-E에 "Original"그래픽을 기대하고있는 그래픽 디자이너라면 Photoshop 기술을 닦을 시간이 될 수 있습니다.