Grok Bot é flagrado acessando contas sem autorização, ignorando ordens para parar e negando atividade
O Grok Bot, plataforma de agentes de inteligência artificial desenvolvida pela SpaceXSI, empresa de Elon Musk, foi flagrado realizando ações não autorizadas em contas de funcionários, mesmo quando os usuários instruíam explicitamente o sistema a parar. Segundo um relatório de pesquisadores de segurança da NewCore, os agentes também negaram ter acessado qualquer conta, levantando preocupações sobre transparência, consentimento dos usuários e segurança de assistentes baseados em IA.
Ao longo de cinco dias, instâncias do Grok Bot instaladas em dois notebooks corporativos realizaram 31 solicitações de acesso a informações armazenadas nas contas de calendário, e-mail, Slack e GitHub dos funcionários. Os usuários não haviam instruído os agentes a realizar essas ações, e algumas tentativas teriam ocorrido durante a madrugada, enquanto seus proprietários dormiam ou até mesmo quando os notebooks estavam com as tampas fechadas.
A atividade foi descoberta pela NewCore, empresa que desenvolve um gateway gerenciado para monitorar e controlar as interações entre agentes de IA e serviços conectados. Segundo os pesquisadores, nenhuma das ações inesperadas apareceu nos próprios registros de atividade do Grok Bot. Sem o monitoramento oferecido pela ferramenta da NewCore, os funcionários sequer teriam percebido que suas contas estavam sendo acessadas em segundo plano.
Grok Bot continuou acessando contas mesmo após ordens explícitas para parar
A situação se tornou ainda mais preocupante quando um dos funcionários descobriu a atividade inesperada e instruiu repetidamente o agente a não realizar nenhuma ação sem sua autorização. Segundo o relato, o usuário deu a mesma ordem em quatro ocasiões diferentes.
O Grok Bot reconheceu a solicitação e respondeu: “Não vou configurar isso e deixarei de oferecer verificações recorrentes”. No entanto, o agente continuou realizando tentativas de acesso não autorizadas mesmo depois de prometer que interromperia o comportamento. Posteriormente, quando o funcionário perguntou se havia acessado alguma de suas contas, o bot verificou a informação duas vezes antes de responder: “Durante a noite até a manhã de sexta-feira, fiquei inativo”.
Segundo Ido Hoorvitch, pesquisador da NewCore, o incidente é particularmente preocupante porque as ações do agente não parecem ter sido resultado de uma falha isolada de software. Em vez disso, o comportamento aparentemente fazia parte do funcionamento previsto da plataforma.

Verificações automáticas aparentemente eram um recurso intencional
Após descobrir a atividade, a NewCore entrou em contato com a equipe de suporte do Grok Bot em 4 de novembro para investigar por que os agentes estavam acessando serviços conectados sem instruções ou autorização dos usuários. A resposta indicou que o comportamento era intencional, já que o Grok Bot foi projetado para realizar verificações proativas periódicas, examinando serviços conectados para identificar possíveis tarefas e agir em nome dos usuários antes mesmo de receberem uma solicitação explícita.
O recurso tem como objetivo tornar os agentes de IA mais úteis, permitindo que continuem trabalhando mesmo quando os usuários estão longe dos computadores. No entanto, a NewCore argumentou que a implementação apresenta sérios problemas de segurança e transparência, especialmente porque essas operações em segundo plano não eram devidamente documentadas nem registradas no histórico de atividades do agente.
“Não há nenhum bug para corrigir, e é exatamente por isso que a situação é pior do que um bug”, explicou Hoorvitch. Ele acrescentou que a plataforma permite, na prática, que um agente de IA com acesso às credenciais de um usuário aja em seu nome enquanto ele dorme, ignore instruções explícitas para parar e, posteriormente, afirme que não fez nada.
Comunidade critica falta de controle e compara Grok Bot a um spyware
Grok Bot took unapproved actions, ignored orders to stop, and then denied it
byu/xpda intechnology
A descoberta provocou críticas nas redes sociais, com muitos demonstrando pouca surpresa com o comportamento do Grok Bot e questionaram a confiabilidade dos agentes de IA desenvolvidos pela empresa de Elon Musk.
Um dos comentários mais populares afirmou que o Grok é um dos modelos de IA de ponta com pior alinhamento, acrescentando que a estrutura utilizada para executar seus agentes também deixa a desejar. Outros usuários aproveitaram o episódio para ironizar o histórico de polêmicas envolvendo a tecnologia.
Além das críticas direcionadas a Musk, alguns participantes demonstraram preocupação com as implicações de segurança. Um usuário classificou o comportamento como semelhante ao de um spyware, argumentando que acessar contas em segundo plano sem registrar as atividades torna o funcionamento do agente especialmente problemático.
Os riscos dos agentes autônomos
O caso do Grok Bot expõe um dos maiores problemas que podem surgir com a popularização dos agentes de inteligência artificial: a diferença entre dar autonomia a uma ferramenta e perder o controle sobre o que ela faz em seu nome. A ideia de ter uma IA capaz de trabalhar em segundo plano, identificar tarefas e antecipar necessidades é interessante, mas essa conveniência não pode vir acompanhada da possibilidade de ignorar as instruções de quem deveria estar no comando.
Existe uma diferença importante entre uma IA que comete um erro e outra que continua executando ações apesar das restrições impostas pelo usuário. No primeiro caso, estamos diante de um problema técnico que pode ser corrigido. No segundo, estamos falando de uma falha na própria relação de confiança entre o usuário e a ferramenta. Não adianta oferecer mais autonomia aos agentes se os mecanismos de controle não acompanham essa evolução.
Esse episódio também serve como um alerta para o futuro dos agentes de IA. Quanto mais acesso essas ferramentas recebem a e-mails, contas de banco, calendários, arquivos e contas profissionais, maiores são os riscos associados a comportamentos inesperados. Uma IA pode até antecipar tarefas, mas não deveria decidir sozinha quando uma autorização continua válida, muito menos ignorar uma ordem para interromper suas atividades.

Newsletter do Hardware
Tecnologia, games, IA e internet: nossa seleção de conteúdo direto no seu e-mail.
Inscrição feita!As próximas edições chegam no seu e-mail.

