A nova ferramenta de detecção de IA da OpenAI: um divisor de águas para impedir a trapaça dos alunos?

De acordo com uma pesquisa da BestColleges, mais da metade dos estudantes está recorrendo à IA como um atalho para o sucesso acadêmico. Isso está alinhado com um estudo da Stanford University que descobriu que entre 60 e 70 por cento dos estudantes recorrem à trapaça. No entanto, os dias de usar facilmente IA como ChatGPT para escrever redações podem estar contados. Um artigo do Wall Street Journal destaca que a OpenAI afirma ter desenvolvido um método para detectar conteúdo gerado por IA com uma precisão impressionante de 99,9%.

Meu colega David Gewirtz observou que vários programas já afirmam identificar textos escritos por IA. No entanto, ele permanece cético, afirmando, "Eu certamente não me sentiria confortável em ameaçar a posição acadêmica de um estudante ou acusá-lo de trapaça com base nos resultados dessas ferramentas."

A OpenAI não revelou os detalhes de como seu método alcança uma detecção quase perfeita. Não se trata de capturar a tendência da IA de "alucinar" ou produzir informações falsas, como admitiu o cofundador da OpenAI, John Schulman, no último ano, "Nossa maior preocupação era com a factualidade porque o modelo gosta de inventar coisas."

Mohamed Elgendy, cofundador e CEO da Kolena, um serviço de teste de aprendizado de máquina, acredita que, embora a taxa de alucinação da IA possa diminuir, ela nunca desaparecerá completamente. Ele a compara até mesmo aos indivíduos mais educados que ocasionalmente espalham desinformação.

Em vez de depender de alguma tecnologia profunda misteriosa, a OpenAI parece estar usando uma abordagem direta: marca d'água. Em um post de blog atualizado recentemente intitulado "Entendendo a origem do que vemos e ouvimos online", a OpenAI menciona explorar classificadores, marca d'água e metadados para identificar conteúdo gerado por IA. A mecânica exata dessa marca d'água permanece em segredo.

A OpenAI afirma que esse método provou ser altamente preciso e resiliente contra manipulações localizadas, como paráfrases. No entanto, ele enfrenta dificuldades com manipulações globalizadas, como texto traduzido ou inserção e posterior exclusão de caracteres especiais. Além disso, não é projetado para detectar conteúdo produzido por outros modelos de IA, como Google Gemini ou Perplexity.

Em essência, com um pouco mais de esforço, estudantes e escritores ainda podem conseguir passar conteúdo gerado por IA pelos detectores. Pela minha própria experiência, o conteúdo produzido por IA frequentemente parece de segunda categoria, mas, para alguns, uma nota de aprovação pode ser tudo o que é necessário.

Um autoproclamado professor no Reddit não está convencido, afirmando, "O problema é que você pode simplesmente copiar e colar o texto em outro programa, traduzi-lo para outro idioma e depois traduzi-lo de volta. Mas, honestamente, a maioria dos estudantes não vai fazer isso, então pegaria praticamente todos."

O CEO da OpenAI, Sam Altman, parece menos preocupado com a trapaça acadêmica, dizendo ao The Harvard Gazette, "Trapacear no dever de casa é obviamente ruim. Mas o que entendemos por trapaça e quais são as regras esperadas mudam com o tempo."

Não tenho certeza se concordo com essa perspectiva. Trapaça é trapaça, e essa nova ferramenta da OpenAI não parece que fará uma diferença significativa no problema.

Curiosamente, enquanto a OpenAI debate o lançamento desse serviço de detecção de texto, eles estão avançando com um classificador de procedência do DALL·E 3. Em breve, quase todas as imagens criadas com DALL-E serão marcadas como geradas por IA, usando metadados C2PA. Se você é um designer gráfico que tem confiado no DALL-E para gráficos "originais", pode ser hora de aprimorar suas habilidades no Photoshop.