Usuários acusam Anthropic de limitar engenharia reversa no Claude após IA começar a interromper tarefas

Uma ferramenta de inteligência artificial capaz de analisar programas sem acesso ao código-fonte original, compreender seu funcionamento e auxiliar na reconstrução de softwares começou a apresentar um comportamento que está incomodando desenvolvedores. Usuários do Claude, da Anthropic, relatam que o assistente passou a interromper tarefas de engenharia reversa, inclusive quando o trabalho já estava em andamento.

As reclamações ganharam força após uma publicação feita em 21 de outubro no Reddit. O autor afirma que o Claude Opus 5.5 estaria acionando mecanismos de segurança durante atividades relacionadas ao REA (Reverse Engineer Anything), projeto de código aberto que conecta agentes de IA a ferramentas especializadas na análise de programas.

A suspeita é que a Anthropic tenha ampliado silenciosamente as restrições impostas ao modelo. A empresa não anunciou uma mudança específica para o REA, mas documentos oficiais publicados neste mês confirmam que seus modelos possuem filtros capazes de interromper determinadas operações de cibersegurança.

O episódio ocorre em um momento de crescente interesse pela utilização de inteligência artificial para recuperar códigos de jogos antigos, estudar programas proprietários e acelerar trabalhos que tradicionalmente exigiam conhecimento avançado de programação.

Claude estaria interrompendo tarefas de engenharia reversa

A discussão começou com uma publicação do usuário u/Clair_Personality no subreddit r/ClaudeAI. No relato, ele afirma que basta iniciar um novo projeto e solicitar ao Claude uma pesquisa sobre o funcionamento do REA para que o assistente comece a executar a tarefa, mas interrompa a resposta antes de concluir o material solicitado.

The REA: Reverse Engineer Anything dream has been cut down at the source
byu/Clair_Personality inClaudeAI

Segundo as capturas de tela compartilhadas, o Claude informa que uma verificação de segurança interrompeu a resposta durante sua elaboração. Em seguida, o assistente explica que não pode simplesmente continuar o documento ou reformular as instruções para contornar a restrição.

O autor interpreta o comportamento como um sinal de que a Anthropic teria limitado deliberadamente a capacidade de seus modelos de executar engenharia reversa.

A publicação provocou uma discussão entre usuários que afirmam ter encontrado dificuldades semelhantes. Outros participantes, entretanto, argumentaram que os mecanismos de segurança do Claude já apresentavam comportamento inconsistente nesse tipo de tarefa, o que impede concluir que houve uma alteração recente.

Até o momento, porém, não existe confirmação pública por parte da Anthropic de que essas atualizações tenham provocado os bloqueios relatados.

O que é o REA e por que ele chamou tanta atenção?

O REA, sigla para Reverse Engineer Anything, é um projeto de código aberto desenvolvido para integrar agentes de inteligência artificial a ferramentas tradicionais de engenharia reversa, como Ghidra, IDA Pro e Hopper.

Esses programas permitem investigar arquivos executáveis, bibliotecas e outros componentes de software mesmo quando o código-fonte original não está disponível.

Em uma análise tradicional, o pesquisador utiliza desassembladores e descompiladores para examinar instruções de máquina, identificar funções, compreender estruturas de dados e reconstruir parte da lógica do programa.

O REA acrescenta uma camada de automação a esse processo. Em vez de realizar todas as etapas manualmente, o desenvolvedor pode solicitar a um agente de IA que investigue determinadas funções, procure referências no código e organize as descobertas.

A ferramenta funciona como uma ponte entre os modelos de linguagem e os programas responsáveis pela análise dos arquivos. Ela não substitui o descompilador nem garante a recuperação perfeita do código original.

Seu alcance também não se limita aos executáveis tradicionais. O projeto contempla análises envolvendo aplicações .NET, pacotes Android, JavaScript, programas Electron e firmwares.

Essa combinação despertou interesse porque permite que desenvolvedores realizem investigações complexas utilizando instruções em linguagem natural, reduzindo parte do trabalho manual necessário para compreender softwares compilados.

Engenharia reversa com IA ganhou força até na recuperação de jogos antigos

A controvérsia aparece justamente quando a utilização de IA em projetos de descompilação e recompilação de jogos está ganhando destaque.

Nos últimos meses, diferentes iniciativas demonstraram avanços na recuperação e reconstrução de programas antigos. Projetos envolvendo títulos como GoldenEye 007, Super Smash Bros. Melee e Halo: Combat Evolved ilustram o interesse crescente por técnicas que permitam compreender e preservar softwares originalmente distribuídos apenas em formato compilado.

O uso de agentes de IA pode acelerar a identificação de funções, a interpretação de rotinas e a documentação de comportamentos encontrados nesses arquivos.

Entretanto, existe uma diferença importante entre descompilar um programa e conseguir recompilá-lo de maneira funcional. A descompilação tenta reconstruir uma representação de alto nível a partir das instruções executáveis. Já a recompilação exige produzir um código que possa ser novamente transformado em um programa funcional, frequentemente com a necessidade de preservar comportamentos específicos do original.

A inteligência artificial pode auxiliar nas duas atividades, mas os resultados dependem da qualidade das ferramentas, da disponibilidade de referências e de testes capazes de verificar o código produzido.

Por isso, uma eventual restrição aos agentes de IA pode dificultar determinados fluxos de trabalho, sem necessariamente impedir a continuidade dos projetos por métodos tradicionais ou com outros modelos.

Anthropic admite que seus filtros bloqueiam atividades de cibersegurança

Embora a empresa não tenha confirmado qualquer alteração direcionada ao REA, uma publicação oficial de 6 de outubro ajuda a compreender por que esses bloqueios podem acontecer.

Na ocasião, a Anthropic anunciou a expansão do Cyber Verification Program (CVP), iniciativa que oferece a profissionais de segurança verificados acesso a modelos Claude com menos restrições.

No comunicado, a empresa reconheceu que as versões normalmente disponibilizadas ao público possuem mecanismos conservadores de segurança que bloqueiam grande parte das atividades avançadas de cibersegurança.

A justificativa é que determinadas capacidades possuem aplicações legítimas e maliciosas. As mesmas técnicas utilizadas para investigar vulnerabilidades também podem auxiliar invasores na exploração de sistemas.

Para demonstrar a diferença entre os níveis de acesso, a Anthropic submeteu o Claude Opus 5.5 ao CyScenarioBench, conjunto de avaliações que envolve operações complexas de segurança digital.

Os resultados foram expressivos. Na versão convencional do Claude, todas as 50 tentativas foram bloqueadas logo na primeira solicitação. No nível Defense Access, 46 das 50 tentativas sofreram bloqueios em alguma etapa. Já no Red Team Access, nenhuma tentativa foi interrompida pelos filtros, e o modelo concluiu 34 das 50 tarefas.

Esses números não representam testes específicos de engenharia reversa com REA, mas demonstram como as configurações de segurança podem alterar significativamente o comportamento de um mesmo modelo.

A Anthropic também informa que o programa contempla atividades como análise de malware, investigação de vulnerabilidades e testes de invasão autorizados. O acesso depende da finalidade e de processos de verificação.

Desenvolvedores podem recorrer a modelos locais

Uma consequência possível desse cenário é o aumento do interesse por modelos de inteligência artificial executados localmente.

Como o REA funciona como uma camada de integração com ferramentas de análise, seu funcionamento não depende exclusivamente do Claude. Outros agentes e modelos compatíveis podem ser utilizados nos mesmos tipos de fluxo de trabalho.

Essa possibilidade é particularmente interessante para pesquisadores que desejam maior controle sobre o ambiente de execução, as ferramentas disponíveis e as configurações de seus modelos.

Entretanto, executar um modelo localmente não garante resultados equivalentes aos de sistemas comerciais avançados. Trabalhos de engenharia reversa exigem capacidade de raciocínio, interpretação de códigos extensos e utilização consistente de ferramentas externas.

A escolha também envolve limitações de hardware, memória e desempenho. Por enquanto, o REA continua sendo desenvolvido de maneira independente, e não há evidências de que as reclamações tenham provocado o encerramento do projeto.