Os criadores do indiscutivelmente chatbot mais popular do mundo criaram uma solução para ajudar as pessoas a diferenciar entre texto gerado por humanos e gerado por bot.
OpenAI, a empresa por trás do ChatGPT e gerador de texto para imagem DALL-Edisse que “treinou um classificador para distinguir entre texto escrito por um humano e texto escrito por IA”, em uma postagem no blog ontem (31 de janeiro). Você pode experimentá-lo aqui.
Mas há uma desvantagem – ainda não é totalmente confiável. Nos testes realizados até agora, 26% do texto escrito por IA foi marcado como “provavelmente escrito por IA”, enquanto o texto escrito por humanos foi marcado incorretamente como escrito por IA em 9% das vezes. A ferramenta provou ser mais eficaz em trechos de texto de mais de 1.000 palavras, mas mesmo assim os resultados foram bastante duvidosos.
A OpenAI defendeu as falhas da ferramenta como parte do processo, dizendo que a lançou nesta fase de desenvolvimento “para obter feedback sobre se ferramentas imperfeitas como essa são úteis”.
O que é GPT Bate-papo?
Feito pela OpenAI, que também fez o gerador de texto para imagem DALL-EChatGPT chatbot tornou-se um tópico de conversa desde que foi lançado como um protótipo em novembro de 2022. A Microsoft, que injetou dezenas de milhões na empresa, ele poderia usá-lo para promover seu motor de busca bing.
As aplicações de porta-ferramentas beneficiam várias profissões e atividades. Ferramenta de inteligência artificial (IA) baseada em diálogo ajuda corretores de imóveis criar listas on-lineestudantes produzir redaçõese desenvolvedores escrever códigoentre outras coisas.
O classificador OpenAI não pode ser usado para evitar trapaças nas escolas
Uma das maiores preocupações sobre o ChatGPT é seu aplicativo de trapaça em exames escolares. Algumas instituições começaram bloqueando ChatGPT em seus dispositivos e redes. A OpenAI lançou sua ferramenta de identificação de IA para resolver parcialmente esses problemas.
“Reconhecemos que muitos distritos escolares e instituições de ensino superior atualmente não consideram a IA generativa em suas políticas de desonestidade acadêmica. Também entendemos que muitos alunos usaram essas ferramentas de lição de casa sem revelar o uso de IA”, afirmou a empresa. Foi reconhecido.
Infelizmente para essas instituições, o classificador de texto AI está “longe de ser infalível” e não pode ser usado para detectar plágio, alertou a OpenAI. Além de classificar erroneamente o texto de IA como escrita humana e vice-versa, os alunos também podem aprender a contornar o sistema modificando algumas palavras ou cláusulas no conteúdo gerado.
Por enquanto, os educadores precisam incentivar os alunos a serem mais honestos e transparentes sobre o uso do chatbot.
Uma lista não exaustiva das limitações do classificador de texto OpenAI
🗣 Realmente só funciona com texto em inglês. Em outras linguagens e códigos, é ainda menos preciso.
💬 O classificador não pode pegar um texto previsível, como uma lista de primeiros-ministros, que seria basicamente o mesmo se escrito por um humano ou um bot.
⏳ A detecção pode ser de curta duração, pois o texto escrito por IA pode ser editado para evitar o classificador.
❌ Para entradas muito diferentes do texto do conjunto de treinamento de IA, que termina em 2021 e provavelmente não consegue lidar com questões muito complexas, o classificador pode responder incorretamente com segurança.
Ferramenta de interesse: GPTZero
Um desenvolvedor de 22 anos, Edward Tian, escreveu um aplicativo para farejar o texto gerado pelo ChatGPT e liberá-lo em 3 de janeiro. O estudante da Universidade de Princeton, que está a meses de se formar, baseou seu sistema de detecção na análise de dois fatores: a perplexidade, que se refere à aleatoriedade do texto, e o estouro, que se refere às variações nas formulações das frases.
Levando em consideração o feedback dos educadores, Tian adicionou mais nuances à ferramenta, que agora pode identificar uma mistura de IA e texto humano, e destaca as partes do texto com maior probabilidade de serem geradas pela IA. A equipe de quatro engenheiros trabalhando no sistema também criou um pipeline para lidar com uploads em lote de arquivos PDF, Word e .txt para que os educadores possam executar vários arquivos por meio do GPTZero de uma só vez.
Histórias relacionadas
🎨 Os melhores exemplos da estranha e bela arte de IA de DALL-E 2
💸 Microsoft faz seu terceiro investimento multibilionário no criador do ChatGPT, OpenAI
🌐 A Microsoft está expandindo o acesso ao seu kit de ferramentas de IA, incluindo o ChatGPT
