Um experimento recente realizado pelo jornalista Joseph Cox, do site Vice, revelou a vulnerabilidade de sistemas de autenticação de voz usados por bancos dos EUA e da Europa. Cox usou um clone de sua voz gerado por inteligência artificial para acessar sua conta bancária com sucesso.
O experimento mostrou que é possível enganar esses sistemas de autenticação de voz, que muitos bancos acreditam ser uma maneira segura de proteger as contas de seus clientes. E para piorar mais ainda a situação, Cox usou um serviço gratuito de criação de voz da ElevenLabs. Trata-se de uma empresa que usa inteligência artificial para sintetizar vozes.
Leia também
DJ David Guetta recria voz do rapper Eminem com Inteligência Artificial em sua música
13 curiosidades sobre a inteligência artificial
Como foi feito o experimento
Ao ligar para o serviço de atendimento ao cliente do banco, o sistema solicitou que Cox falasse por que estava ligando. Em vez de falar em voz alta, ele reproduziu um arquivo de áudio com a fala “Verifique meu saldo“. Esse arquivo foi gerado pela ferramenta de IA a partir de sua voz.
Em seguida, o sistema pediu a Cox que digitasse ou dissesse sua data de nascimento. Depois de inserir a data, o sistema solicitou que ele dissesse “Minha voz é minha senha“. Joseph Cox, novamente, usou sua voz clonada por inteligência artificial para passar pela autenticação. Com isso, ele obteve acesso às informações de sua conta, incluindo saldos e transações recentes. O jornalista gravou todo o procedimento:
Muitos bancos nos EUA e na Europa usam a autenticação de voz para permitir que os clientes acessem suas contas pelo telefone. Os bancos alegam que a identificação de voz é equivalente a uma impressão digital, ou seja, uma maneira segura e conveniente para os usuários acessarem suas contas.
No entanto, o experimento de Cox mostra que essa segurança não é à prova de falhas em um mundo onde qualquer pessoa pode gerar vozes sintéticas de forma barata e até mesmo gratuita.
Experimento escancara vulnerabilidades de bancos
O uso indevido de vozes artificiais pode agora se estender a fraudes e ataques cibernéticos. Alguns especialistas recomendam que os bancos abandonem a autenticação de voz por completo. A CEO da SocialProof Security, Rachel Tobac, recomenda que as organizações que usam autenticação de voz mudem para um método de verificação de identidade mais seguro. Um exemplo é a autenticação de múltiplos fatores.
O experimento de Cox foi realizado em uma conta do Lloyds Bank no Reino Unido. No site do banco, o programa “Voice ID” é considerado seguro, uma vez que o sistema analisa mais de 100 características diferentes da voz. O sistema reconhece até mesmo os clientes que estão com resfriado ou dor de garganta.
Embora o experimento tenha sido realizado em uma conta do Lloyds Bank, sistemas semelhantes em outros bancos podem estar vulneráveis a vozes geradas por IA. Muitos bancos permitem que os usuários realizem várias operações bancárias pelo telefone, como verificar o histórico de transações, saldo da conta e, em alguns casos, até transferências.
Neste caso em específico, um fraudador precisaria da data de nascimento da vítima para concluir a invasão. Mas, convenhamos, a data de nascimento é uma informação que pode ser encontrada facilmente na internet. Muitas pessoas até deixam essa informação exposta em perfis de redes sociais, como Facebook ou Twitter.
O que disse o banco?
O Lloyds Bank, que foi alvo do experimento do jornalista, disse em comunicado que o Voice ID é um método opcional de segurança. É uma ferramenta que fornece um nível adequado de proteção para as contas dos clientes, ao mesmo tempo em que as torna fáceis de acessar quando necessário.
O banco ainda acrescentou que é consciente da ameaça de vozes sintéticas e está implantando contramedidas. De qualquer forma, o banco salientou que ainda não viu nenhum caso em que uma voz sintética tenha sido usada para cometer fraude contra seus clientes.
Além disso, a empresa disse que as vozes sintéticas não são tão atraentes para os fraudadores como outros métodos muito mais comuns e que o Voice ID levou a uma queda significativa em fraudes com serviços bancários por telefone.
Sobre a ElevenLabs
A ElevenLabs é uma empresa que fornece serviços de criação de vozes sintéticas por meio de inteligência artificial. Seu objetivo é fornecer vozes realistas e personalizáveis para diversas finalidades, como narrações de livros, noticiários, vídeos e muito mais.
Para criar uma voz sintética, o usuário grava alguns minutos de sua voz, que servem como base para o modelo de aprendizado de máquina. Em seguida, o usuário pode digitar o que deseja que a voz sintética diga e a ElevenLabs produz um áudio com a voz sintética criada.
Além disso, a empresa afirma que seus serviços podem ser personalizados para diferentes sotaques, idiomas e emoções. Isso é útil para a criação de personagens fictícios ou para a dublagem de conteúdo estrangeiro.
Embora a ElevenLabs afirme que seus serviços são voltados para fins legítimos, a facilidade de acesso a vozes sintéticas geradas por IA também pode levar a abusos, como no caso de trolls da internet criando vozes falsas de celebridades ou personalidades públicas.
Fonte: Vice
