OpenAi의 새로운 AI 탐지 도구 : 학생의 부정 행위를 방지하는 게임 체인저?

BestColleges의 설문 조사에 따르면, 절반 이상의 학생들이 학업 성공을 위한 지름길로 AI를 사용하고 있다. 이는 스탠포드 대학의 연구 결과와 일치하며, 60~70%의 학생들이 부정행위를 저지르고 있다. 그러나 ChatGPT 같은 AI를 사용해 에세이를 쉽게 작성하는 시대는 곧 끝날지도 모른다. 월스트리트 저널 기사에 따르면, OpenAI는 AI 생성 콘텐츠를 99.9% 정확도로 탐지하는 방법을 개발했다고 주장한다.
동료 데이비드 거위츠는 이미 여러 프로그램이 AI 작성 텍스트를 탐지한다고 주장하지만, 그는 회의적이다. 그는 "이 도구들의 결과만으로 학생의 학업 지위를 위협하거나 부정행위를 비난하는 것은 편하지 않다"고 말했다.
OpenAI는 이 거의 완벽한 탐지 방법의 원리를 공개하지 않았다. 이는 AI의 "환각" 경향이나 잘못된 정보를 생성하는 것을 잡아내는 것이 아니며, OpenAI 공동 창립자 존 슐먼은 작년에 "우리의 가장 큰 우려는 사실성이었다. 모델이 사실을 날조하는 경향이 있기 때문"이라고 인정했다.
Kolena의 공동 창립자이자 CEO인 모하메드 엘겐디는 머신러닝 테스트 서비스로, AI의 환각 비율은 줄어들 수 있지만 완전히 사라지지는 않을 것이라고 믿는다. 그는 이를 가장 교육받은 사람들도 가끔 오정보를 퍼뜨리는 것에 비유했다.
OpenAI는 신비한 딥테크에 의존하기보다는 간단한 접근법, 즉 워터마킹을 사용하는 것으로 보인다. 최근 업데이트된 블로그 포스트 "온라인에서 우리가 보고 듣는 것의 출처 이해하기"에서 OpenAI는 AI 생성 콘텐츠를 식별하기 위해 분류기, 워터마킹, 메타데이터를 탐구한다고 언급했다. 이 워터마킹의 정확한 메커니즘은 비공개다.
OpenAI는 이 방법이 매우 정확하고, 의역 같은 국지적 변조에 강력하다고 주장한다. 하지만 번역된 텍스트나 특수 문자를 삽입 후 삭제하는 전역적 변조에는 취약하다. 또한 Google Gemini나 Perplexity 같은 다른 AI 모델의 콘텐츠를 탐지하도록 설계되지 않았다.
결국, 약간의 노력으로 학생과 작가들은 AI 생성 콘텐츠를 탐지기에서 몰래 통과시킬 수 있을지도 모른다. 내 경험상 AI 생성 콘텐츠는 종종 2류로 느껴지지만, 일부에게는 합격 점수만으로 충분할 수 있다.
Reddit에서 자칭 교수라고 밝힌 이는 회의적이다. 그는 "문제는 텍스트를 다른 프로그램에 복사해 붙여넣고, 다른 언어로 번역한 뒤 다시 번역하면 된다. 하지만 솔직히 대부분의 학생들은 그렇게 하지 않을 것이므로, 거의 모두를 잡아낼 것"이라고 말했다.
OpenAI CEO 샘 알트먼은 학업 부정행위에 덜 신경 쓴다. 그는 The Harvard Gazette에 "숙제를 속이는 것은 분명 나쁘다. 하지만 우리가 부정행위라고 부르는 것과 기대되는 규칙은 시간이 지나며 변한다"고 말했다.
나는 그 관점에 동의하지 않는다. 부정행위는 부정행위다. OpenAI의 이 새 도구는 문제에 큰 영향을 미치지 않을 것 같다.
흥미롭게도 OpenAI가 텍스트 탐지 서비스 출시를 논의하는 동안, DALL·E 3 출처 분류기를 진행 중이다. 곧 DALL-E로 생성된 거의 모든 이미지는 C2PA 메타데이터를 사용해 AI 생성으로 태그될 것이다. DALL-E로 "오리지널" 그래픽에 의존해온 그래픽 디자이너라면, Photoshop 기술을 다시 익혀야 할 때일지도 모른다.
관련 기사
하이얼, 무게가 단 1.75kg에 불과한 세계에서 가장 가벼운 AI 스포츠 외골격 로봇 출시
하이얼 그룹은 세계에서 가장 가벼운 AI 기반 스포츠용 외골격 로봇인 ‘하이얼 외골격 로봇 W3’를 선보였습니다. 이번 출시로 경량성 부문에서 업계 신기록을 세우며, 경량 설계 및 지능형 인간 동작 강화 분야에서 획기적인 진전을 이루었습니다.고급 소재가 구현한 초경량 디자인W3는 풀 카본 파이버와 티타늄 합금을 결합한 혁신적인 일체형 제조 공정을 적용했습니
야오크 미디어의 첫 AIGC 드라마 '진링의 청동 미스터리'가 오늘 AI가 연기한 주연 배우들과 함께 공개된다
오늘, 야오케 미디어의 AIGC 판타지 미스터리 단편 드라마 《진링 청동의 비밀》이 공식 공개됩니다. 이 작품은 회사 최초의 AI 배우 두 명인 진링위예와 린시야녠이 주연을 맡았으며, 신비로운 진링 광산 지역을 배경으로 이야기가 펼쳐집니다. 은퇴한 정보 요원 진웨가 팀을 이끌고 이 지역 깊숙이 들어가, 오랫동안 묻혀 있던 광산 참사와 두 세대에 걸친 피의
사티야 나델라, 새로운 오픈AI 협력을 활용할 준비가 되었다
수요일에 월스트리트의 한 애널리스트가 마이크로소프트의 사티야 나델라 CEO에게 개정된 오픈AI와의 파트너십이 회사의 재무 상황에 어떤 영향을 미칠지 직접 물었습니다.나델라는 이 새로운 협약이 모든 당사자에게 이익이 된다고 설명했습니다. “오픈AI와의 파트너십에 대해 우리는 만족하고 있습니다. 저는 언제나 모든 파트너십에서 상호 이익이 되도록 하는 데 집중합니다. 그렇게 해야만 좋은 파트너로 남을 수 있기 때문입니다.”그는 마이크로소프트가 여
관련 특별 주제 추천
의견 (6)
0/500
이런 AI 탐지 도구가 나오니 대학 과제 평가 방식이 완전히 바뀌겠네요. 기술 발전이 빠르지만, 학생들의 창의성을 오히려 저해할 수도 있을 것 같아 조금 걱정되네요 🤔 이제는 AI와 인간의 경계가 흐려지는 시대인가요?
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚

BestColleges의 설문 조사에 따르면, 절반 이상의 학생들이 학업 성공을 위한 지름길로 AI를 사용하고 있다. 이는 스탠포드 대학의 연구 결과와 일치하며, 60~70%의 학생들이 부정행위를 저지르고 있다. 그러나 ChatGPT 같은 AI를 사용해 에세이를 쉽게 작성하는 시대는 곧 끝날지도 모른다. 월스트리트 저널 기사에 따르면, OpenAI는 AI 생성 콘텐츠를 99.9% 정확도로 탐지하는 방법을 개발했다고 주장한다.
동료 데이비드 거위츠는 이미 여러 프로그램이 AI 작성 텍스트를 탐지한다고 주장하지만, 그는 회의적이다. 그는 "이 도구들의 결과만으로 학생의 학업 지위를 위협하거나 부정행위를 비난하는 것은 편하지 않다"고 말했다.
OpenAI는 이 거의 완벽한 탐지 방법의 원리를 공개하지 않았다. 이는 AI의 "환각" 경향이나 잘못된 정보를 생성하는 것을 잡아내는 것이 아니며, OpenAI 공동 창립자 존 슐먼은 작년에 "우리의 가장 큰 우려는 사실성이었다. 모델이 사실을 날조하는 경향이 있기 때문"이라고 인정했다.
Kolena의 공동 창립자이자 CEO인 모하메드 엘겐디는 머신러닝 테스트 서비스로, AI의 환각 비율은 줄어들 수 있지만 완전히 사라지지는 않을 것이라고 믿는다. 그는 이를 가장 교육받은 사람들도 가끔 오정보를 퍼뜨리는 것에 비유했다.
OpenAI는 신비한 딥테크에 의존하기보다는 간단한 접근법, 즉 워터마킹을 사용하는 것으로 보인다. 최근 업데이트된 블로그 포스트 "온라인에서 우리가 보고 듣는 것의 출처 이해하기"에서 OpenAI는 AI 생성 콘텐츠를 식별하기 위해 분류기, 워터마킹, 메타데이터를 탐구한다고 언급했다. 이 워터마킹의 정확한 메커니즘은 비공개다.
OpenAI는 이 방법이 매우 정확하고, 의역 같은 국지적 변조에 강력하다고 주장한다. 하지만 번역된 텍스트나 특수 문자를 삽입 후 삭제하는 전역적 변조에는 취약하다. 또한 Google Gemini나 Perplexity 같은 다른 AI 모델의 콘텐츠를 탐지하도록 설계되지 않았다.
결국, 약간의 노력으로 학생과 작가들은 AI 생성 콘텐츠를 탐지기에서 몰래 통과시킬 수 있을지도 모른다. 내 경험상 AI 생성 콘텐츠는 종종 2류로 느껴지지만, 일부에게는 합격 점수만으로 충분할 수 있다.
Reddit에서 자칭 교수라고 밝힌 이는 회의적이다. 그는 "문제는 텍스트를 다른 프로그램에 복사해 붙여넣고, 다른 언어로 번역한 뒤 다시 번역하면 된다. 하지만 솔직히 대부분의 학생들은 그렇게 하지 않을 것이므로, 거의 모두를 잡아낼 것"이라고 말했다.
OpenAI CEO 샘 알트먼은 학업 부정행위에 덜 신경 쓴다. 그는 The Harvard Gazette에 "숙제를 속이는 것은 분명 나쁘다. 하지만 우리가 부정행위라고 부르는 것과 기대되는 규칙은 시간이 지나며 변한다"고 말했다.
나는 그 관점에 동의하지 않는다. 부정행위는 부정행위다. OpenAI의 이 새 도구는 문제에 큰 영향을 미치지 않을 것 같다.
흥미롭게도 OpenAI가 텍스트 탐지 서비스 출시를 논의하는 동안, DALL·E 3 출처 분류기를 진행 중이다. 곧 DALL-E로 생성된 거의 모든 이미지는 C2PA 메타데이터를 사용해 AI 생성으로 태그될 것이다. DALL-E로 "오리지널" 그래픽에 의존해온 그래픽 디자이너라면, Photoshop 기술을 다시 익혀야 할 때일지도 모른다.
하이얼, 무게가 단 1.75kg에 불과한 세계에서 가장 가벼운 AI 스포츠 외골격 로봇 출시
하이얼 그룹은 세계에서 가장 가벼운 AI 기반 스포츠용 외골격 로봇인 ‘하이얼 외골격 로봇 W3’를 선보였습니다. 이번 출시로 경량성 부문에서 업계 신기록을 세우며, 경량 설계 및 지능형 인간 동작 강화 분야에서 획기적인 진전을 이루었습니다.고급 소재가 구현한 초경량 디자인W3는 풀 카본 파이버와 티타늄 합금을 결합한 혁신적인 일체형 제조 공정을 적용했습니
야오크 미디어의 첫 AIGC 드라마 '진링의 청동 미스터리'가 오늘 AI가 연기한 주연 배우들과 함께 공개된다
오늘, 야오케 미디어의 AIGC 판타지 미스터리 단편 드라마 《진링 청동의 비밀》이 공식 공개됩니다. 이 작품은 회사 최초의 AI 배우 두 명인 진링위예와 린시야녠이 주연을 맡았으며, 신비로운 진링 광산 지역을 배경으로 이야기가 펼쳐집니다. 은퇴한 정보 요원 진웨가 팀을 이끌고 이 지역 깊숙이 들어가, 오랫동안 묻혀 있던 광산 참사와 두 세대에 걸친 피의
사티야 나델라, 새로운 오픈AI 협력을 활용할 준비가 되었다
수요일에 월스트리트의 한 애널리스트가 마이크로소프트의 사티야 나델라 CEO에게 개정된 오픈AI와의 파트너십이 회사의 재무 상황에 어떤 영향을 미칠지 직접 물었습니다.나델라는 이 새로운 협약이 모든 당사자에게 이익이 된다고 설명했습니다. “오픈AI와의 파트너십에 대해 우리는 만족하고 있습니다. 저는 언제나 모든 파트너십에서 상호 이익이 되도록 하는 데 집중합니다. 그렇게 해야만 좋은 파트너로 남을 수 있기 때문입니다.”그는 마이크로소프트가 여
이런 AI 탐지 도구가 나오니 대학 과제 평가 방식이 완전히 바뀌겠네요. 기술 발전이 빠르지만, 학생들의 창의성을 오히려 저해할 수도 있을 것 같아 조금 걱정되네요 🤔 이제는 AI와 인간의 경계가 흐려지는 시대인가요?
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚





집






