Não há maneira dos professores descobrirem se os alunos estão usando o ChatGPT para trapacear, diz a OpenAI em um novo guia de volta às aulas.

A OpenAI diz que os professores não conseguem detectar se os alunos estão trapaceando usando o ChatGPT, de acordo com um novo guia de volta às aulas.

  • Más notícias para os professores: vocês não têm como descobrir se os alunos estão usando o ChatGPT para trapacear.
  • É o que diz a OpenAI, criadora do chatbot, que afirma que os detectores de IA não funcionam de forma confiável.
  • Bots como o ChatGPT têm causado caos na educação nos últimos meses.

A OpenAI está preparando os professores para a volta às aulas, lançando um guia sobre como usar o ChatGPT na sala de aula, meses depois que os educadores levantaram o alerta de que os alunos estão recorrendo à IA para trapacear.

Más notícias para professores e professores universitários: a OpenAI afirma que sites e aplicativos que prometem detectar cópias geradas por IA nos trabalhos dos alunos são pouco confiáveis.

Em uma seção de perguntas frequentes para educadores, a empresa afirmou que descobriu que os detectores de conteúdo de IA não conseguem “distinguir de forma confiável entre conteúdo gerado por IA e conteúdo gerado por humano”.

“Quando tentamos treinar um detector de conteúdo gerado por IA na OpenAI, descobrimos que ele rotulava textos escritos por humanos, como Shakespeare e a Declaração de Independência, como gerados por IA”, afirma a FAQ.

Tais detectores de conteúdo também têm a tendência de sugerir que trabalhos de estudantes que não falam inglês como primeira língua são gerados por IA, afirmou a OpenAI, confirmando um problema relatado anteriormente pelo The Markup.

O ChatGPT rapidamente se tornou uma ferramenta popular entre os estudantes desde o seu lançamento, pois sua capacidade de gerar texto e respostas convincentemente humanas torna-o uma ferramenta útil em tarefas como redação de ensaios e pesquisa.

No entanto, os professores estão preocupados que os alunos estejam trapaceando ao apresentar ideias e frases do chatbot como sendo suas próprias, e que eles estejam se tornando excessivamente dependentes de uma ferramenta que ainda é propensa a erros e alucinações.

Os professores começaram a detectar alunos trapaceando em trabalhos universitários usando o ChatGPT pouco mais de um mês após o lançamento do chatbot em novembro de 2022. Uma pesquisa realizada este ano descobriu que um em cada quatro professores afirmou ter pego alunos trapaceando usando o ChatGPT.

A OpenAI reconhece que os educadores podem ter que lidar com alunos apresentando conteúdo gerado por IA como sendo seu próprio trabalho, e oferece sugestões, como pedir aos alunos para manterem suas conversas com o ChatGPT e apresentá-las como dever de casa.

“Ao manter um registro de suas conversas com a IA, os alunos podem refletir sobre seu progresso ao longo do tempo. Eles podem ver como suas habilidades em fazer perguntas, analisar respostas e integrar informações têm se desenvolvido”, escreveu a OpenAI.

A OpenAI também reconheceu que o ChatGPT não está livre de preconceitos e estereótipos, por isso “os usuários e educadores devem revisar cuidadosamente seu conteúdo”.

A OpenAI não respondeu imediatamente ao pedido de comentário da Insider.