Quando o debate sobre inteligência artificial e segurança digital se concentra em malware e ataques automatizados, ignora o que Noushin Shabab chama de risco mais subestimado do setor: a capacidade dos sistemas de IA de moldar escolhas humanas sem que a pessoa perceba que está sendo influenciada.
Shabab é Lead Security Researcher do GReAT (Global Research and Analysis Team) da Kaspersky, time especializado em ameaças avançadas. Ela atua com foco em ataques direcionados na região Ásia-Pacífico e participa ativamente de investigações de atividade cibercriminosa complexa.
Em entrevista ao Toms Hardware da Itália, ela diz que a IA não opera ao redor do processo decisional humano, ela opera dentro dele. Sistemas de recomendação, filtragem de conteúdo e personalização algorítmica expõem repetidamente o usuário aos pontos de vista com os quais ele já concorda, construindo um ciclo de reforço que o algoritmo controla, não o usuário.
O mecanismo concreto funciona assim: agentes maliciosos usam profilação baseada em IA para agregar rastros digitais, histórico de navegação, padrões de engajamento, horários de atividade, e montar perfis psicológicos que preveem como a pessoa pensa, reage e decide. A partir desses perfis, geram mensagens de phishing, posts em redes sociais ou interações em chat calibradas para os medos, interesses e estado emocional específico daquela pessoa naquele momento. O conteúdo se adapta em tempo real com base no feedback de engajamento, tornando-se progressivamente mais persuasivo.
Shabab define onde a personalização vira manipulação: no ponto em que o sistema para de prever comportamento e começa a moldá-lo ativamente, explorando vieses cognitivos e gatilhos emocionais para direcionar decisões em vez de apoiar a escolha do usuário.
Sistemas de IA conversacional empáticos e persuasivos amplificam o problema. Quanto mais um sistema imita resposta emocional humana, maior a confiança do usuário, e menor o ceticismo diante de tentativas de engenharia social. Phishing, golpes e campanhas de influência ficam mais eficazes na exata proporção em que a IA que os executa parece mais humana.
A maioria das pessoas não tem consciência de quanta informação comportamental gera nem da profundidade com que os sistemas de IA analisam esses dados. Rastros digitais fragmentados, um like, um tempo de leitura, um scroll pausado, são agregados em perfis psicológicos capazes de revelar traços sensíveis e vulnerabilidades individuais.
“A narrativa mais enganosa é a de que os riscos relacionados à IA são primordialmente voltados para o futuro ou puramente técnicos. Na realidade, os sistemas atuais já possibilitam riscos significativos por meio de perfis comportamentais, engenharia social e manipulação cognitiva em larga escala”, completa Shabab.
