O chatbot automatizado com inteligência artificial da OpenAI, ChatGPT, conquistou a Internet, mas criou alguns problemas ao longo do caminho. Com escritores, programadores, profissionais de marketing e outros aparentemente usando o ChatGPT para gerar conteúdo, empresas de todo o mundo estão enfrentando um tsunami de conteúdo gerado por IA.
Como os problemas de plágio e roubo de conteúdo continuam envolvendo o ChatGPT e sua saída, a OpenAI lançou um novo classificador GPT, uma ferramenta projetada para detectar e divulgar se o texto que você está lendo é obra do ChatGPT ou de uma de suas outras ferramentas GPT.
OpenAI lança classificador GPT para ajudar a verificar texto escrito por IA
O anúncio da OpenAI ocorre em meio a um maior escrutínio da escrita de IA e do texto gerado por IA e da integração da empresa da saída do ChatGPT.
O novo classificador GPT tenta descobrir se um determinado trecho de texto foi escrito por um humano ou pelo trabalho de um gerador de IA. Embora o ChatGPT e outros modelos GPT sejam extensivamente treinados em todos os tipos de entrada de texto, a ferramenta GPT-Classifier foi “ajustada em um conjunto de dados de pares de texto feitos por humanos e AI no mesmo tópico”.
Portanto, em vez de coletar informações e recriar sua melhor aproximação, um classificador GPT tenta comparar as semelhanças entre o texto humano conhecido e o texto AI conhecido para encontrar diferenças que revelem o autor da fonte.
A detecção do classificador GPT está atualmente limitada
Embora a ideia de reconhecer facilmente o texto gerado por IA seja fantástica para editores e educadores, a OpenAI adverte que seus “classificadores não são totalmente confiáveis”.
Atualmente, o classificador GPT “identifica corretamente 26% do texto de autoria de IA”, enquanto rotula 9% do texto humano como de autoria de IA. OpenAI também observa que a precisão da ferramenta “geralmente melhora com o comprimento do texto de entrada”.
Um teste superficial do classificador GPT pegou um exemplo gerado por humanos e o rotulou como “improvável gerado por IA”. Também observou corretamente que um trecho gerado pelo ChatGPT sobre uma pergunta USB “poderia ser gerado por IA”.
Saiba mais: Aprenda a programar em Python neste treinamento completo, tudo sem precisar sair de casa!
Alta demanda para detecção de ChatGPT
Portanto, mesmo com as limitações dos classificadores GPT, a necessidade de uma detecção confiável do ChatGPT pode direcionar muitos para essa ferramenta. O compromisso da OpenAI em criar e lançar uma ferramenta gratuita de detecção de GPT é importante porque? À medida que mais alunos, escritores, programadores e outros usam ferramentas de geração de texto de IA, entender e detectar essa entrada se tornará crítico.
Por enquanto, enquanto o GPT-Classifier está em execução e disponível para teste, é melhor levar seus rótulos com cautela.
