Enquanto uns usam o ChatGPT para conseguir uma noiva, outros estão usando para aprimorar malwares e golpes. A OpenAI e a Microsoft revelaram em uma pesquisa recente que o ChatGPT vem sendo empregado por hackers para incrementar a eficácia de suas fraudes.
O estudo indica que estes cibercriminosos estão transformando a inteligência artificial generativa em uma ferramenta de apoio para refinar seus métodos de ataque. Em resposta, a OpenAI procedeu à exclusão de contas associadas a hackers ou grupos hackers.
Leia também
ChatGPT vaza conversas e dados sigilosos para terceiros, diz relatório
Loja de ChatGPT personalizado já está lotada de bots de “namoradas virtuais”
Contas de hackers já foram banidas da OpenAI
No documento, as empresas detalham que a utilização da IA generativa pelos criminosos cibernéticos se estende além do aperfeiçoamento de softwares maliciosos. Eles utilizam o ChatGPT também para intensificar as estratégias de phishing e spoofing. Essas técnicas de golpes dependem da manipulação social para imitar indivíduos e/ou enganar empresas convincentemente. Para isso, eles precisam de um texto eficaz e bem escrito para enganar as vítimas. O ChatGPT facilita a criação desses textos de maneira ágil.
Conforme a OpenAI, em colaboração com a Microsoft, foi possível eliminar do ChatGPT as contas pertencentes a certos grupos hackers. Tais contas estariam vinculadas aos aparatos de inteligência de nações específicas, incluindo China, Irã, Rússia e Coreia do Norte.
A análise realizada pelas empresas identificou como os criminosos virtuais se aproveitavam do ChatGPT. Predominantemente, empregaram a IA generativa para refinar scripts e elaborar materiais destinados a campanhas de phishing. O Forest Blizzard, grupo ligado à inteligência militar russa, também recorreu à IA para examinar códigos de pesquisa em comunicações via satélite, disponíveis publicamente.
Em entrevista à Reuters, Tom Burt, vice-presidente de segurança da Microsoft, comentou:
“Independentemente de haver alguma violação da lei ou qualquer violação dos termos de serviço, simplesmente não queremos que os atores que identificamos — que rastreamos e sabemos que são atores de ameaças de vários tipos — não queremos que eles tenham acesso a essa tecnologia”.
Hackers usavam o ChatGPT Plus
O ChatGPT é projetado com restrições para prevenir a criação de softwares maliciosos ou o emprego da plataforma para fins ilícitos. Segundo informações divulgadas pela OpenAI e Microsoft, os criminosos se beneficiavam da versão premium do ChatGPT, o ChatGPT Plus.
A versão paga do chatbot da OpenAI que oferece recursos adicionais como análise e síntese de documentos, navegação web, plugins e outros recursos. Já a versão gratuita limita os usuários a inserir comandos de até 4 mil caracteres. Não há nenhum tipo de recurso extra ou que expanda as capacidades do ChatGPT.
A Microsoft observou que, apesar dessas práticas abusivas do ChatGPT, sua equipe de segurança ainda não registrou nenhum ataque realizado via modelos de linguagem de grande escala (LLMs).
Veja também
Sobre o Autor
Deixe seu comentário