O ChatGPT passou a ser tratado por uma parcela crescente de usuários como uma autoridade infalível sobre o mundo real, e as consequências dessa dinâmica já chegaram ao cotidiano de funcionários das mais diversas áreas, de garçons a professores.
O que era um problema pontual de curiosidade tecnológica virou rotina de atrito: trabalhadores de atendimento ao público precisam convencer clientes de que o modelo de linguagem errou, e a disputa frequentemente não termina a favor de quem está com a razão.
Chatbot cria informações conflitantes
A alergia ignorada
O caso mais grave, relatado ao The Verge, envolve uma garçonete identificada apenas como Madison, que trabalhou até recentemente em um restaurante italiano com recomendação Michelin em Nova York. Seu protocolo é simples: perguntar sobre alergias assim que os clientes chegam.
O problema é que clientes com alergia a frutos do mar passaram a pedir pratos cujo caldo é feito com crustáceos, e, ao serem alertados pela garçonete, respondem que o ChatGPT afirmou que o prato era seguro. “Você tem alergia a frutos do mar, e o ChatGPT diz que não tem nada disso no prato, mas nós estamos te dizendo que tem”, relata Madison. A situação vai além do incômodo operacional: estamos falando de um modelo de linguagem sendo invocado para contradizer uma profissional presencial em uma questão de segurança alimentar.
O fenômeno se estende ao serviço de vinhos. Madison observou um aumento expressivo de clientes que dispensam sommeliers em favor do chatbot, chegando a pedir garrafas que o restaurante não oferece ou que simplesmente não existem. Para não expor o cliente, a equipe passou a adotar eufemismos diplomáticos: em vez de dizer que a AI inventou uma marca, explicam que a carta de vinhos da casa é muito específica e talvez não contemple o rótulo sugerido.
IA inventando caminhos
Jason, agente federal que trabalha em áreas protegidas no oeste dos Estados Unidos, descreve situações de risco concreto. Visitantes chegam com itinerários gerados por IA que incluem acampamentos que não existem e planejamentos geográficos absurdos: roteiros que exigem remo contra a correnteza de um rio, o que é fisicamente impossível.
“Mesmo com um federal explicando o problema apontando para um mapa, tivemos vários grupos que permaneceram céticos”, diz Jason. “Um certo tipo de usuário de IA está inclinado a confiar no ChatGPT acima dos federais, mapas e guias impressos.” O modelo se tornou, para esse perfil de usuário, uma fonte de verdade primária.
A pedagogia do sono segundo o LLM
Casey, professora de programa extracurricular em Nova York, narra um padrão igualmente preocupante para as crianças. Pais de alunos estão consultando o ChatGPT e o Claude para definir rotinas de sono e desenvolvimento infantil, ignorando a avaliação de profissionais presenciais.
Em um caso específico, Casey estimou que uma criança precisava de duas a três horas a mais de sono por noite com base em seu comportamento no programa. Os pais recusaram a avaliação: o chatbot havia dito que a rotina atual já estava correta. “Pode ser muito difícil falar com alguém que já fez sua mente”, diz Casey, “porque eles confiam nessa entidade externa como sendo infalível.”
Quando o agente faz pedidos que o cliente não fez
O nível seguinte do problema é a agência própria da IA . Lauren Wilford, com 15 anos de experiência em serviço de alimentação, gerencia um restaurante em Providence, Rhode Island, e descreve um episódio que ilustra a camada mais nova do fenômeno. Na véspera de um evento corporativo, pedidos de última hora chegaram ao estabelecimento: plataformas, equipamentos de AV e alterações no cardápio. Nada disso estava disponível.
No dia seguinte, quando os clientes chegaram, não mencionaram nenhum desses pedidos. Wilford suspeita que as solicitações tenham sido feitas por um agente de IA operando em nome da empresa, sem que alguém lá dentro soubesse ou autorizasse. Ela não tem como provar, mas o cenário é plausível: agentes que atuam de forma autônoma em nome de usuários, sem supervisão, introduzem uma camada de ruído nas relações entre empresas e fornecedores que ainda não tem protocolo de resolução.
Um problema que não é técnico
Em 2026, o debate sobre alucinações de IA deixou de ser acadêmico, em alguns casos chegando a ser uma questão de segurança. A cadeia de consequências é clara: modelos de linguagem são treinados com dados gerais, não têm acesso ao cardápio atualizado de um restaurante, ao leito de um rio ou ao comportamento específico de uma criança, e produzem respostas com a mesma confiança independentemente da sua precisão.
O que mudou não foi a tecnologia em si, mas o grau de autoridade que uma parcela dos usuários passou a atribuir a ela. Para os trabalhadores que estão do outro lado do balcão, o desafio agora é duplo: corrigir o erro do modelo e, antes disso, convencer o cliente de que um erro ocorreu.
Reddit fecha as portas para bots de IA: RSS e API pública serão encerrados
ChatGPT pode fornecer informações erradas?
O ChatGPT pode inventar informações?
Sim. Modelos de linguagem podem gerar respostas incorretas ou inventar informações, mesmo quando a resposta parece convincente. Esse tipo de erro é conhecido como alucinação de IA.
Por que o ChatGPT responde com tanta confiança quando está errado?
O ChatGPT é projetado para gerar respostas com base nos padrões aprendidos durante seu treinamento e no contexto da conversa. A forma segura ou convincente de uma resposta não significa que a informação tenha sido verificada.
É seguro confiar no ChatGPT para informações importantes?
Não é recomendável usar uma resposta de IA como única fonte para decisões que envolvam segurança, saúde, dinheiro ou outras consequências importantes. Nesses casos, informações devem ser verificadas com fontes confiáveis e, quando necessário, com profissionais especializados.
Como verificar uma informação fornecida pelo ChatGPT?
A melhor prática é conferir a informação em fontes primárias ou confiáveis, como sites oficiais, documentação, páginas de suporte, comunicados das empresas e profissionais especializados. Quanto maior o impacto de um possível erro, mais importante é fazer essa verificação.
Fonte: The Verge
