Trapaceiros, cuidado: criador do ChatGPT lança ferramenta de detecção de IA

O criador do ChatGPT está tentando reduzir sua reputação de máquina de trapaça com uma nova ferramenta que pode ajudar os professores a detectar se um aluno ou uma inteligência artificial escreveu o dever de casa.

O novo classificador de texto AI lançado na terça-feira pela OpenAI segue uma discussão de semanas em escolas e faculdades sobre o medo de que a capacidade do ChatGPT de escrever qualquer coisa sob comando possa alimentar a desonestidade acadêmica e prejudicar o aprendizado.

A OpenAI adverte que sua nova ferramenta – como outras já disponíveis – não é infalível. O método para detectar texto escrito por IA “é imperfeito e às vezes pode estar errado”, disse Jan Leike, chefe da equipe de alinhamento da OpenAI encarregada de tornar seus sistemas mais seguros.

“Por causa disso, não se deve confiar apenas nele ao tomar decisões”, disse Leike.

Adolescentes e estudantes universitários estavam entre os milhões de pessoas que começaram a experimentar o ChatGPT depois que ele foi lançado em 30 de novembro como um aplicativo gratuito no site da OpenAI. E enquanto muitos encontraram maneiras de usá-lo de forma criativa e inofensiva, a facilidade com que ele poderia responder a perguntas de testes para casa e ajudar em outras tarefas provocou pânico entre alguns educadores.

Quando as escolas abriram para o ano novo, a cidade de Nova York, Los Angeles e outros grandes distritos escolares públicos começaram a bloquear seu uso nas salas de aula e nos dispositivos escolares.
O distrito das Escolas Públicas de Seattle inicialmente bloqueou o ChatGPT em todos os dispositivos escolares em dezembro, mas depois abriu o acesso a educadores que desejam usá-lo como ferramenta de ensino, disse Tim Robinson, porta-voz do distrito.

“Não podemos nos dar ao luxo de ignorá-lo”, disse Robinson.

O distrito também está discutindo a possibilidade de expandir o uso do ChatGPT nas salas de aula para permitir que os professores o usem para treinar os alunos a serem melhores pensadores críticos e permitir que os alunos usem o aplicativo como um “tutor pessoal” ou para ajudar a gerar novas ideias ao trabalhar em uma tarefa. , disse Robinson.

Os distritos escolares de todo o país dizem que estão vendo a conversa sobre o ChatGPT evoluir rapidamente.

“A reação inicial foi ‘OMG, como vamos conter a maré de todas as trapaças que acontecerão com o ChatGPT’”, disse Devin Page, especialista em tecnologia do Distrito Escolar Público do Condado de Calvert, em Maryland. Agora há uma percepção crescente de que “este é o futuro” e bloqueá-lo não é a solução, disse ele.

“Acho que seríamos ingênuos se não estivéssemos cientes dos perigos que essa ferramenta representa, mas também falharíamos em atender nossos alunos se os proibissemos e a nós de usá-la com todo o seu poder potencial”, disse Page, que pensa que os distritos como o seu eventualmente desbloqueará o ChatGPT, especialmente quando o serviço de detecção da empresa estiver em vigor.

A OpenAI enfatizou as limitações de sua ferramenta de detecção em um blog na terça-feira, mas disse que, além de impedir o plágio, poderia ajudar a detectar campanhas automatizadas de desinformação e outros usos indevidos da IA ​​para imitar humanos.

Quanto mais longa uma passagem de texto, melhor a ferramenta detecta se uma IA ou um humano escreveu algo. Digite qualquer texto – um ensaio de admissão na faculdade ou uma análise literária de “Homem Invisível” de Ralph Ellison – e a ferramenta o rotulará como “muito improvável, improvável, incerto se é, possivelmente ou provável” gerado por IA.

Mas assim como o próprio ChatGPT, que foi treinado em um enorme tesouro de livros digitalizados, jornais e escritos online, mas muitas vezes cospe falsidades ou bobagens com confiança, não é fácil interpretar como chegou ao resultado.

“Não sabemos fundamentalmente a que tipo de padrão ele presta atenção ou como funciona internamente”, disse Leike. “Realmente não há muito que possamos dizer neste momento sobre como o classificador realmente funciona.”

Instituições de ensino superior em todo o mundo também começaram a debater o uso responsável da tecnologia de IA. A Sciences Po, uma das universidades mais prestigiadas da França, proibiu seu uso na semana passada e alertou que qualquer pessoa encontrada usando o ChatGPT e outras ferramentas de inteligência artificial para produzir trabalhos escritos ou orais poderia ser banida da Sciences Po e de outras instituições.

Em resposta à reação, a OpenAI disse que está trabalhando há várias semanas para elaborar novas diretrizes para ajudar os educadores.

“Como muitas outras tecnologias, pode ser que um distrito decida que é inapropriado para uso em suas salas de aula”, disse Lama Ahmad, pesquisador de políticas da OpenAI. “Nós realmente não os pressionamos de um jeito ou de outro. Queremos apenas fornecer a eles as informações de que precisam para tomar as decisões certas por eles.”

É um papel incomumente público para a startup de San Francisco voltada para a pesquisa, agora apoiada por bilhões de dólares em investimentos de sua parceira Microsoft e enfrentando crescente interesse do público e dos governos.

O ministro da economia digital da França, Jean-Noël Barrot, reuniu-se recentemente na Califórnia com executivos da OpenAI, incluindo o CEO Sam Altman, e uma semana depois disse a uma audiência no Fórum Econômico Mundial em Davos, na Suíça, que estava otimista com a tecnologia. Mas o ministro do governo – ex-professor do Instituto de Tecnologia de Massachusetts e da escola de negócios francesa HEC em Paris – disse que também há questões éticas difíceis que precisam ser abordadas.