A nova ferramenta de detecção de IA da OpenAI: um divisor de águas para impedir a trapaça dos alunos?

De acordo com uma pesquisa da BestColleges, mais da metade dos estudantes está se voltando para a IA como um atalho para o sucesso acadêmico. Isso se alinha a um estudo da Universidade de Stanford que encontrou entre 60 e 70 % dos estudantes recorrem à trapaça. No entanto, os dias de uso sem esforço de IA como o ChatGPT para escrever ensaios podem ser numerados. Um artigo do Wall Street Journal destaca que o Openai afirma ter desenvolvido um método para detectar conteúdo gerado pela IA com uma precisão impressionante de 99,9%.

Meu colega David Gewirtz observou que vários programas já afirmam identificar texto escrito por IA. No entanto, ele permanece cético, afirmando: "Eu certamente não me sentiria confortável ameaçando a posição acadêmica de um aluno ou acusando -os de trapacear com base nos resultados dessas ferramentas".

O OpenAI não derramou o feijão sobre como seu método alcança uma detecção quase perfeita. Não se trata de capturar a tendência da IA ​​de "alucinar" ou produzir informações falsas, como admitiu o co-fundador do Openai, John Schulman, no ano passado, "nossa maior preocupação era sobre a factualidade porque o modelo gosta de fabricar coisas".

Mohamed Elgendy, co-fundador e CEO da Kolena, um serviço de teste de aprendizado de máquina, acredita que, embora a taxa de alucinação da IA ​​possa diminuir, ela nunca desaparecerá completamente. Ele o compara até aos indivíduos mais instruídos, ocasionalmente espalhando informações erradas.

Em vez de confiar em alguma tecnologia profunda misteriosa, o OpenAI parece estar usando uma abordagem direta: marcar a água. Em uma postagem de blog recentemente atualizada intitulada "Entendendo a fonte do que vemos e ouvimos online", menciona o OpenAI explorar classificadores, marcas de água e metadados para identificar conteúdo gerado pela IA. A mecânica exata dessa marca d'água permanece em segredo.

Openai afirma que esse método se mostrou altamente preciso e resiliente contra violação localizada como parafraseando. No entanto, ele luta com a violação globalizada, como texto traduzido ou inserção e depois excluindo caracteres especiais. Além disso, ele não foi projetado para detectar conteúdo produzido por outros modelos de IA, como Google Gemini ou Perplexity.

Em essência, com um pouco mais de esforço, estudantes e escritores ainda podem ser capazes de esgueirar-se para os detectores do AI. Pela minha própria experiência, o conteúdo produzido pela AI geralmente parece de segunda categoria, mas para alguns, uma nota que passa pode ser tudo o que é necessário.

Um professor auto-proclamado no Reddit não está convencido, afirmando: "O problema é que você pode apenas copiar o texto para outro programa, traduzi-lo em outro idioma e depois traduzi-lo de volta. Mas, honestamente, a maioria dos estudantes não fará isso, então isso pegaria todo mundo".

O CEO da Openai, Sam Altman, parece menos preocupado com a trapaça acadêmica, dizendo ao Harvard Gazette: "Trair a lição de casa é obviamente ruim. Mas o que queremos dizer com trapaça e quais são as regras esperadas muda com o tempo".

Não tenho certeza se concordo com essa perspectiva. A trapaça é a trapaça, e essa nova ferramenta do OpenAI não parece que fará um estrago significativo no problema.

Curiosamente, enquanto o OpenAI debate o lançamento deste serviço de detecção de texto, eles estão avançando com um classificador de proveniência Dall · E 3. Em breve, quase todas as imagens criadas com Dall-E serão marcadas como geradas pela IA, usando metadados C2PA. Se você é um designer gráfico que está apoiado nos gráficos "originais", talvez seja hora de aprimorar suas habilidades no Photoshop.