OpenAi의 새로운 AI 탐지 도구 : 학생의 부정 행위를 방지하는 게임 체인저?

BestColleges의 설문 조사에 따르면, 절반 이상의 학생들이 학업 성공을 위한 지름길로 AI를 사용하고 있다. 이는 스탠포드 대학의 연구 결과와 일치하며, 60~70%의 학생들이 부정행위를 저지르고 있다. 그러나 ChatGPT 같은 AI를 사용해 에세이를 쉽게 작성하는 시대는 곧 끝날지도 모른다. 월스트리트 저널 기사에 따르면, OpenAI는 AI 생성 콘텐츠를 99.9% 정확도로 탐지하는 방법을 개발했다고 주장한다.

동료 데이비드 거위츠는 이미 여러 프로그램이 AI 작성 텍스트를 탐지한다고 주장하지만, 그는 회의적이다. 그는 "이 도구들의 결과만으로 학생의 학업 지위를 위협하거나 부정행위를 비난하는 것은 편하지 않다"고 말했다.

OpenAI는 이 거의 완벽한 탐지 방법의 원리를 공개하지 않았다. 이는 AI의 "환각" 경향이나 잘못된 정보를 생성하는 것을 잡아내는 것이 아니며, OpenAI 공동 창립자 존 슐먼은 작년에 "우리의 가장 큰 우려는 사실성이었다. 모델이 사실을 날조하는 경향이 있기 때문"이라고 인정했다.

Kolena의 공동 창립자이자 CEO인 모하메드 엘겐디는 머신러닝 테스트 서비스로, AI의 환각 비율은 줄어들 수 있지만 완전히 사라지지는 않을 것이라고 믿는다. 그는 이를 가장 교육받은 사람들도 가끔 오정보를 퍼뜨리는 것에 비유했다.

OpenAI는 신비한 딥테크에 의존하기보다는 간단한 접근법, 즉 워터마킹을 사용하는 것으로 보인다. 최근 업데이트된 블로그 포스트 "온라인에서 우리가 보고 듣는 것의 출처 이해하기"에서 OpenAI는 AI 생성 콘텐츠를 식별하기 위해 분류기, 워터마킹, 메타데이터를 탐구한다고 언급했다. 이 워터마킹의 정확한 메커니즘은 비공개다.

OpenAI는 이 방법이 매우 정확하고, 의역 같은 국지적 변조에 강력하다고 주장한다. 하지만 번역된 텍스트나 특수 문자를 삽입 후 삭제하는 전역적 변조에는 취약하다. 또한 Google Gemini나 Perplexity 같은 다른 AI 모델의 콘텐츠를 탐지하도록 설계되지 않았다.

결국, 약간의 노력으로 학생과 작가들은 AI 생성 콘텐츠를 탐지기에서 몰래 통과시킬 수 있을지도 모른다. 내 경험상 AI 생성 콘텐츠는 종종 2류로 느껴지지만, 일부에게는 합격 점수만으로 충분할 수 있다.

Reddit에서 자칭 교수라고 밝힌 이는 회의적이다. 그는 "문제는 텍스트를 다른 프로그램에 복사해 붙여넣고, 다른 언어로 번역한 뒤 다시 번역하면 된다. 하지만 솔직히 대부분의 학생들은 그렇게 하지 않을 것이므로, 거의 모두를 잡아낼 것"이라고 말했다.

OpenAI CEO 샘 알트먼은 학업 부정행위에 덜 신경 쓴다. 그는 The Harvard Gazette에 "숙제를 속이는 것은 분명 나쁘다. 하지만 우리가 부정행위라고 부르는 것과 기대되는 규칙은 시간이 지나며 변한다"고 말했다.

나는 그 관점에 동의하지 않는다. 부정행위는 부정행위다. OpenAI의 이 새 도구는 문제에 큰 영향을 미치지 않을 것 같다.

흥미롭게도 OpenAI가 텍스트 탐지 서비스 출시를 논의하는 동안, DALL·E 3 출처 분류기를 진행 중이다. 곧 DALL-E로 생성된 거의 모든 이미지는 C2PA 메타데이터를 사용해 AI 생성으로 태그될 것이다. DALL-E로 "오리지널" 그래픽에 의존해온 그래픽 디자이너라면, Photoshop 기술을 다시 익혀야 할 때일지도 모른다.