Golpistas usam deepfake para roubar mais de R$ 120 milhões de uma empresa

Uma companhia em Hong Kong enfrentou um prejuízo de cerca de R$ 127 milhões devido a um esquema de fraude envolvendo deepfake.

A fraude ocorreu quando um dos colaboradores foi instruído por alguém que se passava pelo diretor financeiro da empresa (CFO – Chief Financial Officer), através de uma videochamada, a realizar 15 transferências bancárias. Nos próximos parágrafos eu explico em mais detalhes como aconteceu esse golpe.

Leia também
O que é deepfake e por que é tão perigoso?
Como descobrir se um vídeo é deepfake?

Como aconteceu o golpe?

Os estelionatários, fingindo ser o executivo financeiro que trabalha em Londres, utilizaram tecnologia de deepfake para imitar sua aparência e voz durante a videoconferência.

Inicialmente, o colaborador de Hong Kong desconfiou da videochamada, porém, foi tranquilizado pelos seus colegas que reconheceram o suposto CFO no vídeo. Em seguida, receberam instruções urgentes para transferir um montante que somava 200 milhões de dólares de Hong Kong (equivalente a R$ 127 milhões) para cinco contas diferentes. Falando em dólares americanos, é o equivalente a US$ 25 milhões.

Logo após perceberem que, na verdade, foram vítimas de um golpe, os colaboradores de Hong Kong acionaram as autoridades policiais, que iniciaram uma investigação sobre o incidente. O superintendente Baron Chan mencionou que os fraudadores se comunicavam com os empregados do escritório local usando WhatsApp, e-mails e videochamadas.

Chan sugeriu que os criminosos provavelmente se valeram de vídeos gravados anteriormente do CFO para criar um deepfake convincente, empregando inteligência artificial para sintetizar a voz e imagem do executivo.

Chan explicou: “Suspeitamos que os criminosos tenham pré-baixado vídeos e utilizado inteligência artificial para sobrepor vozes artificiais durante a videoconferência”. As identidades dos envolvidos e o nome da empresa afetada não foram divulgados pelas autoridades.

Os perigos do deepfake e como identificar

O uso da tecnologia deepfake, capaz de criar vídeos e áudios extremamente realistas de pessoas falando ou agindo de maneiras que nunca ocorreram, representa uma ameaça crescente tanto no campo da segurança cibernética quanto na disseminação de fake news.

Este caso em Hong Kong ilustra a capacidade perturbadora do deepfake de enganar as pessoas e empresas, levando a perdas financeiras significativas ou até mesmo ao comprometimento de informações confidenciais.

E para piorar a situação, Identificar conteúdo gerado por deepfake não é tão fácil assim, ainda mais levando em consideração o avanço constante dessa tecnologia. No entanto, existem alguns sinais que podem ajudar nessa identificação.

Por exemplo, inconsistências na sincronização labial, expressões faciais que parecem artificiais ou não naturais, e a qualidade da voz, que pode apresentar nuances inesperadas ou falta de sincronia com os movimentos da boca e do rosto, são indícios de manipulação. Além disso, a análise técnica de vídeos, como verificar a consistência da iluminação ou a presença de artefatos digitais, pode oferecer pistas. Mas fica o alerta de que está cada vez mais difícil identificar vídeos e áudios gerados por deepfake.

Inteligência artificial em prol das fraudes

Como toda tecnologia, as pessoas podem usá-la para o bem ou para o mal. Com a inteligência artificial não é diferente. Já existem casos de empresas ofertando serviços ilegais proporcionados por inteligência artificial.

Um exemplo alarmante dessa tendência é a oferta de falsificação de documentos via redes neurais. Por um valor acessível, cerca de US$ 15, é possível adquirir imagens convincentes de documentos como carteiras de habilitação dos EUA e passaportes, que já enganaram empresas financeiras em processos de verificação de identidade para abertura de contas.

Segundo uma investigação realizada pelo site 404 Media, a criação de uma carteira de motorista falsa para o estado da Califórnia requer apenas uma foto de passaporte e o preenchimento dos dados desejados, incluindo a geração automática de uma assinatura. O produto final é uma imagem de alta qualidade, posicionada de maneira a simular uma foto real do documento sobre um fundo, como um carpete, pronta para ser enviada para bancos e empresas.

Além de documentos dos EUA, o serviço ilegal abrange carteiras de motorista de outros estados americanos, passaportes de países como Suíça e Canadá, e documentos de identidade de nações como Áustria. Esses serviços incluem até a manipulação de metadados da imagem para passar por verificações mais rigorosas, mostrando a sofisticação e o perigo que essa aplicação da inteligência artificial representa.

Fonte: The Register