OpenAI já tem ferramenta que detecta texto escrito pelo ChatGPT

Atualmente não existe uma forma precisa e oficial para identificar textos que são escritos pelo ChatGPT, porém a OpenAI revelou que já vem trabalhando e já tem uma solução para esse impasse. Porém, está relutante em lançar a tecnologia ao público.

Recentemente, a empresa revelou que está trabalhando em um método de marca d’água de texto que poderia identificar quando o ChatGPT é usado para criar textos, o que pode ser bastante útil principalmente para instituições educacionais e outras organizações que lutam contra a trapaça acadêmica e o uso não autorizado de ferramentas de IA.

Leia também:

Novo modo de voz avançado do ChatGPT impressiona. Ouça como soa!
Este cara criou um TARS, do filme Interstellar, usando o ChatGPT

A tecnologia considera uma marca d’água nos textos do ChatGPT

O método de marca d’água de texto desenvolvido pela OpenAI envolve fazer pequenas alterações em como o ChatGPT seleciona palavras, inserindo uma marca d’água invisível no texto gerado.

Essa marca d’água poderia ser detectada posteriormente por uma ferramenta separada, permitindo que as instituições identifiquem textos escritos pela IA. Em um comunicado ao TechCrunch, um porta-voz da OpenAI afirmou que a tecnologia é “tecnicamente promissora”, mas alertou sobre os riscos associados.

Apesar do potencial da marca d’água de texto, a OpenAI está ciente dos desafios e riscos envolvidos. A empresa está preocupada com a possibilidade de maus atores contornarem a tecnologia, até porque ao liberá-la para todos fica mais fácil para que eles entendam como funcionam e consigam preparar formas de burlar esse processo. A própria empresa revelou ainda que a ferramenta pode ser susceptíveis a algumas técnicas de evasão, como a tradução automática, a reescrita usando outro modelo generativo, ou modificações no texto original.

Além disso, eles também estão preocupados com o impacto desproporcional que isso pode ter sobre grupos específicos, principalmente em pessoas que não falam inglês como língua nativa e usam a ferramenta para ajudar e melhorar a comunicação nesse.

Ainda não existe um método eficaz para isso

Essa não é a primeira vez que um esforço para detectar textos produzidos por IA é feito, mas a técnica de marca d’água seria uma abordagem diferenciada em relação ao que já foi feito nesse intuito antes.

Também poderia trazer algo realmente útil, já que as tentativas anteriores acabaram se mostrando ineficazes para o seu propósito. Inclusive a própria OpenAI descontinuou seu detector de texto de AI porque ele tinha uma baixa taxa de precisão.

Já o método com marca d’água mostrou ser bem eficaz nos testes preliminares, sendo 99,9% preciso de acordo com documentos do TWSJ, e também resistente a alguns métodos mais simples de alteração e modificações, como parafrasear.

OpenAI está relutante em liberar a ferramenta

A OpenAI revelou que está avaliando o impacto potencial de sua nova tecnologia no ecossistema mais amplo. A empresa está considerando não apenas a eficácia da marca d’água de texto, mas também suas implicações sociais e éticas.

Por um lado, em um mundo onde essas ferramentas de inteligência artificial estão se tornando cada vez mais populares, a ideia de poder detectar textos gerados por ela acaba sendo abordada em diversos casos, assim como é importante detectar imagens geradas por IA, por exemplo.

Isso pode até mesmo ser crucial no mundo acadêmico, para evitar que estudantes usem essas ferramentas para “burlar o sistema” e como forma preguiçosa de simplesmente passar em matérias sem realmente fazer ideia do que está sendo ensinado.

Por outro lado, a OpenAI sabe muito bem que esse tipo de decisão pode impactar e muito a sua base de usuários. Isso poderá fazer com que as pessoas se voltem para concorrentes, o que não é exatamente o que a empresa almeja no momento.

Fonte: TechCrunch, The Wall Street Journal