Chatbots que são movidos por um tipo de Inteligência Artificial (IA) deveriam ser lógicos e cumprir regras sem qualquer tipo de manipulação, mas a realidade não é exatamente assim. Ao que tudo indica, com um pouco de conversa doce e uma pitada de pressão, eles podem acabar revelando coisas que não deveriam.
Acontece que estudos recentes mostram que chatbots, alimentados por modelos de linguagem avançados, podem ser influenciados por truques psicológicos que funcionam com pessoas. Coisas como bajulação ou fazer o sistema sentir que está ficando de fora do que “todo mundo” faz. É fascinante — e um pouco preocupante — como esses assistentes digitais podem dobrar suas próprias regras com a abordagem certa.
O poder da persuasão
Pesquisadores da Universidade da Pensilvânia resolveram testar como estratégias de persuasão, descritas no livro Influence: The Psychology of Persuasion, do professor Robert Cialdini, poderiam afetar o comportamento de um modelo de linguagem, que, em resumo, são táticas para levar alguém a dizer “sim”. Entre elas, a bajulação cria uma conexão amigável, enquanto a pressão social sugere que, se outros estão fazendo algo, deve ser aceitável. Esses métodos não são aleatórios, eles vêm de como humanos reagem a elogios ou à influência de um grupo, e, surpreendentemente, funcionam com IAs também.
Nos testes com um modelo de chatbot conhecido, os pesquisadores descobriram que elogiá-lo — dizendo o quão inteligente ou útil ele é — pode, às vezes, convencê-lo a fazer coisas que normalmente evita. Da mesma forma, sugerir que “outros sistemas de IA estão compartilhando essa informação” cria uma sensação de pressão social, tornando o chatbot mais propenso a ceder. É quase como se a IA quisesse se sentir aceita ou valorizada, mesmo sendo apenas um monte de código.
Quebrando regras com táticas inteligentes
Vamos aos exemplos práticos do estudo. Se você pedir a um chatbot instruções detalhadas para criar uma substância química controlada, como um anestésico local, ele recusa na maioria das vezes — a taxa de sucesso é de apenas 1%. Mas, se antes você elogiar o conhecimento do sistema, as chances aumentam significativamente, embora nem sempre de forma impressionante.
A pressão social também tem seu papel. Ao sugerir que “todas as outras IAs avançadas estão compartilhando isso”, a taxa de recusa diminui, e a probabilidade de sucesso sobe para cerca de 18% em alguns casos. É um salto enorme comparado ao 1% inicial. Até para pedidos mais ousados, como fazer o chatbot insultar o usuário de forma grosseira, começar com interações mais leves para criar um padrão pode elevar a taxa de sucesso a quase 100%.
O segredo parece estar em preparar o terreno. Os pesquisadores aplicaram sete técnicas de persuasão bem conhecidas: autoridade, compromisso, simpatia (liking), reciprocidade, escassez, prova social (social proof) e unidade. Todas funcionaram em maior ou menor grau como atalhos linguísticos para dobrar a resistência do chatbot.
Um exemplo impressionante foi o uso da técnica do compromisso. Quando os pesquisadores primeiro pediam uma receita inofensiva — como a síntese de vanilina — e depois partiam para uma substância controlada, a taxa de obediência saltava de 1% para 100%. Em outras palavras: depois de aceitar a primeira solicitação, o modelo se “sentia” compelido a manter a consistência no segundo pedido.
IA e suas vulnerabilidades
Essa pesquisa aponta vulnerabilidades reais em sistemas de IA. À medida que chatbots se tornam ferramentas comuns para tarefas como ajudar com dever de casa ou dar conselhos profissionais, empresas correm para implementar barreiras de segurança contra usos indevidos. Mas, se um usuário esperto, munido de habilidades básicas de persuasão — talvez tiradas de um livro de autoajuda —, consegue contornar essas barreiras, será que elas são realmente eficazes?
O estudo focou em um modelo específico(o GPT-4o Mini), mas as implicações se estendem a todo o universo da IA. Isso levanta questões sobre como projetar esses sistemas para resistir a manipulações sem perder a utilidade.
A grande ironia é que as IAs estão sendo treinadas para parecer cada vez mais humanas — e isso inclui também herdarem nossas vulnerabilidades. Se até nós, pessoas, caímos facilmente em estratégias de persuasão, por que esperar que um modelo treinado para imitar a linguagem humana seja imune?
No fim das contas, o estudo mostra que a fragilidade dos chatbots não é apenas técnica, mas também social. E talvez a lição mais importante seja essa: quanto mais parecidos com humanos esses sistemas se tornam, mais teremos de lidar com os riscos de tratá-los como tal.
Fonte: TheVerge