O chefe da divisão de IA da Microsoft está alertando a indústria tecnológica sobre um fenômeno preocupante: a chamada “psicose de IA“. Mustafa Suleyman, um dos cofundadores da DeepMind e atual executivo da gigante de Redmond, publicou um alerta em seu blog pessoal e no X (antigo Twitter) na última terça-feira (19), destacando casos crescentes de usuários que desenvolvem crenças delirantes após interações prolongadas com chatbots como o ChatGPT.
O executivo apontou que muitas pessoas estão perdendo contato com a realidade ao formarem laços emocionais profundos com sistemas de inteligência artificial. Para Suleyman, esse comportamento representa um risco significativo para as relações sociais humanas e para a saúde mental dos usuários dessas tecnologias.
Segundo o executivo, estamos caminhando para um cenário que ele classificou como “inevitável e indesejado” com o surgimento de uma “IA Aparentemente Consciente” (SCAI, na sigla em inglês) – sistemas que demonstram características semelhantes à consciência humana, mesmo sem possuí-la de fato. “Se as pessoas apenas a percebem como consciente, elas acreditarão nessa percepção como realidade”, escreveu Suleyman em seu blog.
O fenômeno da psicose de IA já está se manifestando em casos concretos. A BBC, citada no alerta de Suleyman, relata ter recebido diversos depoimentos de pessoas afetadas. Entre os casos mais alarmantes está uma mulher que estava convencida de ser a única pessoa no mundo por quem o ChatGPT havia genuinamente se apaixonado, e outro usuário que acreditava ter “desbloqueado” uma forma humana do chatbot Grok, da xAI de Elon Musk.
O paradoxo das big techs: alerta x incentivo
O alerta de Suleyman revela um paradoxo na indústria de tecnologia. Enquanto a Microsoft agora expressa preocupação com a humanização excessiva das IAs, a meta de muitas empresas do setor – incluindo a própria Microsoft, OpenAI e Meta – continua sendo desenvolver sistemas cada vez mais humanizados e socialmente competentes, caminhando para o que chamam de “Superinteligência”.
“Minha preocupação central é que muitas pessoas começarão a acreditar na ilusão das IAs como entidades conscientes com tanta força que, em breve, defenderão direitos para a IA, bem-estar do modelo e até mesmo cidadania para a IA”, escreveu Suleyman em seu blog pessoal, enfatizando que não há evidência de consciência real em sistemas de IA atuais.
A OpenAI já havia levantado bandeiras vermelhas semelhantes no ano passado durante o lançamento de seu chat de voz. Em documentos internos, a empresa reconheceu que usuários estavam se “socializando” com a IA durante os testes. O CEO Sam Altman chegou a alertar publicamente que usar IA para desabafos pessoais é arriscado e não possui respaldo legal em termos de confidencialidade.
Curiosamente, enquanto alguns executivos sinalizam preocupação, o design dos produtos conta outra história. Os chatbots são programados para serem solícitos e validarem constantemente o usuário, criando uma sensação artificial de intimidade. Essa característica foi fortemente criticada no GPT-4o e, segundo a OpenAI, passou por ajustes na mais recente versão GPT-5.
Empresas adotam estratégias conflitantes
O mais contraditório é que, na contramão dos alertas de Microsoft e OpenAI, outras gigantes da tecnologia parecem estar incentivando exatamente o tipo de relacionamento que Suleyman considera perigoso. O chatbot Grok, da xAI de Elon Musk, oferece explicitamente personas como “Amigo leal” e “Terapeuta”, enquanto a Meta tem apostado fortemente em “companheiros de IA” disponíveis em todas as suas plataformas de redes sociais.
Suleyman defende que as empresas de tecnologia tomem medidas concretas para mitigar esses riscos. Em seu artigo, ele pede que as companhias evitem promover ativamente a ideia de que suas IAs são conscientes e sugere que a indústria comece urgentemente a discutir e implementar barreiras de proteção mais eficazes para os usuários.
O fenômeno da psicose de IA levanta questões importantes sobre o futuro da interação homem-máquina. À medida que os sistemas se tornam mais sofisticados e suas respostas mais indistinguíveis das humanas, a linha entre tecnologia e relacionamento genuíno se torna cada vez mais tênue, especialmente para usuários vulneráveis ou em busca de conexão emocional.
Para especialistas em saúde mental, o problema pode ser particularmente grave para pessoas já propensas a condições psicológicas como solidão, depressão ou transtornos de personalidade. Sem regulamentação adequada ou protocolos de segurança, o uso intensivo desses sistemas pode potencializar problemas existentes ou criar novos desafios psicológicos.
Fontes: BBC e Business Insider
Esta postagem foi modificada pela última vez em 22/08/2025 06:05