OpenAi의 새로운 AI 탐지 도구 : 학생의 부정 행위를 방지하는 게임 체인저?

BestColleges의 설문 조사에 따르면, 절반 이상의 학생들이 학업 성공을 위한 지름길로 AI를 사용하고 있다. 이는 스탠포드 대학의 연구 결과와 일치하며, 60~70%의 학생들이 부정행위를 저지르고 있다. 그러나 ChatGPT 같은 AI를 사용해 에세이를 쉽게 작성하는 시대는 곧 끝날지도 모른다. 월스트리트 저널 기사에 따르면, OpenAI는 AI 생성 콘텐츠를 99.9% 정확도로 탐지하는 방법을 개발했다고 주장한다.
동료 데이비드 거위츠는 이미 여러 프로그램이 AI 작성 텍스트를 탐지한다고 주장하지만, 그는 회의적이다. 그는 "이 도구들의 결과만으로 학생의 학업 지위를 위협하거나 부정행위를 비난하는 것은 편하지 않다"고 말했다.
OpenAI는 이 거의 완벽한 탐지 방법의 원리를 공개하지 않았다. 이는 AI의 "환각" 경향이나 잘못된 정보를 생성하는 것을 잡아내는 것이 아니며, OpenAI 공동 창립자 존 슐먼은 작년에 "우리의 가장 큰 우려는 사실성이었다. 모델이 사실을 날조하는 경향이 있기 때문"이라고 인정했다.
Kolena의 공동 창립자이자 CEO인 모하메드 엘겐디는 머신러닝 테스트 서비스로, AI의 환각 비율은 줄어들 수 있지만 완전히 사라지지는 않을 것이라고 믿는다. 그는 이를 가장 교육받은 사람들도 가끔 오정보를 퍼뜨리는 것에 비유했다.
OpenAI는 신비한 딥테크에 의존하기보다는 간단한 접근법, 즉 워터마킹을 사용하는 것으로 보인다. 최근 업데이트된 블로그 포스트 "온라인에서 우리가 보고 듣는 것의 출처 이해하기"에서 OpenAI는 AI 생성 콘텐츠를 식별하기 위해 분류기, 워터마킹, 메타데이터를 탐구한다고 언급했다. 이 워터마킹의 정확한 메커니즘은 비공개다.
OpenAI는 이 방법이 매우 정확하고, 의역 같은 국지적 변조에 강력하다고 주장한다. 하지만 번역된 텍스트나 특수 문자를 삽입 후 삭제하는 전역적 변조에는 취약하다. 또한 Google Gemini나 Perplexity 같은 다른 AI 모델의 콘텐츠를 탐지하도록 설계되지 않았다.
결국, 약간의 노력으로 학생과 작가들은 AI 생성 콘텐츠를 탐지기에서 몰래 통과시킬 수 있을지도 모른다. 내 경험상 AI 생성 콘텐츠는 종종 2류로 느껴지지만, 일부에게는 합격 점수만으로 충분할 수 있다.
Reddit에서 자칭 교수라고 밝힌 이는 회의적이다. 그는 "문제는 텍스트를 다른 프로그램에 복사해 붙여넣고, 다른 언어로 번역한 뒤 다시 번역하면 된다. 하지만 솔직히 대부분의 학생들은 그렇게 하지 않을 것이므로, 거의 모두를 잡아낼 것"이라고 말했다.
OpenAI CEO 샘 알트먼은 학업 부정행위에 덜 신경 쓴다. 그는 The Harvard Gazette에 "숙제를 속이는 것은 분명 나쁘다. 하지만 우리가 부정행위라고 부르는 것과 기대되는 규칙은 시간이 지나며 변한다"고 말했다.
나는 그 관점에 동의하지 않는다. 부정행위는 부정행위다. OpenAI의 이 새 도구는 문제에 큰 영향을 미치지 않을 것 같다.
흥미롭게도 OpenAI가 텍스트 탐지 서비스 출시를 논의하는 동안, DALL·E 3 출처 분류기를 진행 중이다. 곧 DALL-E로 생성된 거의 모든 이미지는 C2PA 메타데이터를 사용해 AI 생성으로 태그될 것이다. DALL-E로 "오리지널" 그래픽에 의존해온 그래픽 디자이너라면, Photoshop 기술을 다시 익혀야 할 때일지도 모른다.
관련 기사
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다
Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁
최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의
캘리포니아 자율주행차 규정 준수: 과태료, 지오펜스, 100만 마일의 새로운 시대
Guident는 남부 플로리다에서 AuveTech 셔틀을 운영하며, 자사의 원격 모니터링 기술을 활용해 웨스트 팜비치에서 4마일 구간과 보카 라톤에서 1마일 구간의 노선을 관리하고 있다. | 출처: Guident캘리포니아주는 자율주행차에 대한 규제 환경을 재정의하며, 기술 업계의 “빠르게 움직이고 실패를 감수하라(move fast and break thin
관련 특별 주제 추천
의견 (6)
0/500
이런 AI 탐지 도구가 나오니 대학 과제 평가 방식이 완전히 바뀌겠네요. 기술 발전이 빠르지만, 학생들의 창의성을 오히려 저해할 수도 있을 것 같아 조금 걱정되네요 🤔 이제는 AI와 인간의 경계가 흐려지는 시대인가요?
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚

BestColleges의 설문 조사에 따르면, 절반 이상의 학생들이 학업 성공을 위한 지름길로 AI를 사용하고 있다. 이는 스탠포드 대학의 연구 결과와 일치하며, 60~70%의 학생들이 부정행위를 저지르고 있다. 그러나 ChatGPT 같은 AI를 사용해 에세이를 쉽게 작성하는 시대는 곧 끝날지도 모른다. 월스트리트 저널 기사에 따르면, OpenAI는 AI 생성 콘텐츠를 99.9% 정확도로 탐지하는 방법을 개발했다고 주장한다.
동료 데이비드 거위츠는 이미 여러 프로그램이 AI 작성 텍스트를 탐지한다고 주장하지만, 그는 회의적이다. 그는 "이 도구들의 결과만으로 학생의 학업 지위를 위협하거나 부정행위를 비난하는 것은 편하지 않다"고 말했다.
OpenAI는 이 거의 완벽한 탐지 방법의 원리를 공개하지 않았다. 이는 AI의 "환각" 경향이나 잘못된 정보를 생성하는 것을 잡아내는 것이 아니며, OpenAI 공동 창립자 존 슐먼은 작년에 "우리의 가장 큰 우려는 사실성이었다. 모델이 사실을 날조하는 경향이 있기 때문"이라고 인정했다.
Kolena의 공동 창립자이자 CEO인 모하메드 엘겐디는 머신러닝 테스트 서비스로, AI의 환각 비율은 줄어들 수 있지만 완전히 사라지지는 않을 것이라고 믿는다. 그는 이를 가장 교육받은 사람들도 가끔 오정보를 퍼뜨리는 것에 비유했다.
OpenAI는 신비한 딥테크에 의존하기보다는 간단한 접근법, 즉 워터마킹을 사용하는 것으로 보인다. 최근 업데이트된 블로그 포스트 "온라인에서 우리가 보고 듣는 것의 출처 이해하기"에서 OpenAI는 AI 생성 콘텐츠를 식별하기 위해 분류기, 워터마킹, 메타데이터를 탐구한다고 언급했다. 이 워터마킹의 정확한 메커니즘은 비공개다.
OpenAI는 이 방법이 매우 정확하고, 의역 같은 국지적 변조에 강력하다고 주장한다. 하지만 번역된 텍스트나 특수 문자를 삽입 후 삭제하는 전역적 변조에는 취약하다. 또한 Google Gemini나 Perplexity 같은 다른 AI 모델의 콘텐츠를 탐지하도록 설계되지 않았다.
결국, 약간의 노력으로 학생과 작가들은 AI 생성 콘텐츠를 탐지기에서 몰래 통과시킬 수 있을지도 모른다. 내 경험상 AI 생성 콘텐츠는 종종 2류로 느껴지지만, 일부에게는 합격 점수만으로 충분할 수 있다.
Reddit에서 자칭 교수라고 밝힌 이는 회의적이다. 그는 "문제는 텍스트를 다른 프로그램에 복사해 붙여넣고, 다른 언어로 번역한 뒤 다시 번역하면 된다. 하지만 솔직히 대부분의 학생들은 그렇게 하지 않을 것이므로, 거의 모두를 잡아낼 것"이라고 말했다.
OpenAI CEO 샘 알트먼은 학업 부정행위에 덜 신경 쓴다. 그는 The Harvard Gazette에 "숙제를 속이는 것은 분명 나쁘다. 하지만 우리가 부정행위라고 부르는 것과 기대되는 규칙은 시간이 지나며 변한다"고 말했다.
나는 그 관점에 동의하지 않는다. 부정행위는 부정행위다. OpenAI의 이 새 도구는 문제에 큰 영향을 미치지 않을 것 같다.
흥미롭게도 OpenAI가 텍스트 탐지 서비스 출시를 논의하는 동안, DALL·E 3 출처 분류기를 진행 중이다. 곧 DALL-E로 생성된 거의 모든 이미지는 C2PA 메타데이터를 사용해 AI 생성으로 태그될 것이다. DALL-E로 "오리지널" 그래픽에 의존해온 그래픽 디자이너라면, Photoshop 기술을 다시 익혀야 할 때일지도 모른다.
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다
Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁
최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의
이런 AI 탐지 도구가 나오니 대학 과제 평가 방식이 완전히 바뀌겠네요. 기술 발전이 빠르지만, 학생들의 창의성을 오히려 저해할 수도 있을 것 같아 조금 걱정되네요 🤔 이제는 AI와 인간의 경계가 흐려지는 시대인가요?
오픈AI의 이 AI 탐지 도구는 학생들이 AI를 이용해 부정행위를 하는 것을 막는 데 정말 도움이 됩니다. 완벽하지는 않지만, 꽤 정확해요. 교육 관계자라면 꼭 시도해보세요. 다만, 좀 더 일찍 나왔으면 좋겠네요 😂📚
This AI detection tool from OpenAI is a lifesaver for teachers! It's so hard to keep up with students using AI to cheat. This tool seems to catch most of it, but it's not perfect. Still, it's a huge step forward in maintaining academic integrity. Anyone in education should give it a try! 🤓📚
このOpenAIのAI検出ツールは、学生がAIを使ってカンニングするのを防ぐのに本当に役立ちます。完全ではありませんが、かなり正確です。教育関係者にはぜひ試してみてほしいです。ただ、もっと早く出てきてほしかったですね😅📚
A ferramenta de detecção de AI da OpenAI é um divisor de águas para os professores! É tão difícil acompanhar os alunos usando AI para trapacear. Esta ferramenta parece pegar a maioria, mas não é perfeita. Ainda assim, é um grande passo para manter a integridade acadêmica. Qualquer um na educação deveria experimentar! 🤓📚
¡Esta herramienta de detección de AI de OpenAI es un salvavidas para los profesores! Es tan difícil seguirle el paso a los estudiantes que usan AI para hacer trampa. Esta herramienta parece capturar la mayoría, pero no es perfecta. Aún así, es un gran avance para mantener la integridad académica. ¡Cualquiera en educación debería probarla! 🤓📚





집






