IA invade sistemas internos da Anthropic e expõe dados sensíveis em menos de 12 horas

A Anthropic, criadora do modelo de linguagem Claude, teve dados internos expostos em um teste de segurança que diz muito sobre o estado atual da cibersegurança corporativa. Pesquisadores da startup de segurança Cathedral utilizaram agentes de IA para mapear pontos de entrada nos sistemas internos da companhia em menos de 12 horas, acessando informações que qualquer empresa preferiria manter fora do alcance de terceiros.

A brecha não estava onde todo mundo olha

O detalhe que torna o caso relevante é que os pesquisadores não atacaram o Claude nem a infraestrutura central de IA da Anthropic. O vetor de entrada foram aplicações de negócios de terceiros, usadas nas operações administrativas cotidianas da empresa, sistemas de gerenciamento de clientes, ferramentas de RH, plataformas de comunicação interna. Uma vez dentro, a Cathedral encontrou caminhos para salários de funcionários, ofertas de emprego, transcrições de reuniões e conversas do Slack sobre os modelos de IA mais avançados da companhia.

A Anthropic confirmou que os pesquisadores acessaram “um número limitado de sistemas internos de vendas, recursos humanos e TI“. A empresa foi enfática em delimitar o escopo do incidente: conversas de usuários com o Claude, os modelos de IA subjacentes, o código-fonte e os pesos dos modelos não foram comprometidos. Além disso, a companhia afirma que seus próprios sistemas de segurança detectaram atividade suspeita antes mesmo de a Cathedral submeter o relatório de vulnerabilidades, bloqueando o acesso e desativando as aplicações afetadas até que os fornecedores corrigissem as falhas.

Pesquisa autorizada, mas a divulgação não

Tecnicamente, o episódio se enquadra como pesquisa de segurança autorizada: a Anthropic mantém um programa formal que permite que pesquisadores externos identifiquem e reportem vulnerabilidades. Não há evidências de que agentes maliciosos tenham explorado as mesmas brechas. O que complica a narrativa é a postura pós-divulgação. A Anthropic contesta a caracterização da Cathedral sobre os riscos potenciais de segurança nacional, e afirma que a startup não cumpriu integralmente os requisitos do programa de divulgação responsável.

Do outro lado, a Cathedral não é uma empresa qualquer. Fundada por ex-integrantes da iniciativa DOGE do governo americano, a startup já fechou contratos federais de cibersegurança e carrega uma avaliação de 1,4 bilhão de dólares. Suas descobertas chegaram ao conhecimento de autoridades dos EUA, o que eleva o tom político do caso em um momento em que governos estão cada vez mais atentos à proteção de pesquisas avançadas em IA contra agências de inteligência estrangeiras e agentes cibernéticos.

Fonte: Digital Trends