Um advogado paraibano acaba de descobrir, da forma mais cara possível, que prompt injection dentro de uma petição judicial não é só um problema de segurança de sistemas: é fraude processual. O juiz Phillipe Guimarães, da 5ª Vara Mista de Sousa, identificou comandos ocultos inseridos em um recurso de embargos de declaração e aplicou uma multa total de R$ 32,8 mil ao profissional responsável.
O caso, que saiu da obscuridade de um cartório paraibano para ganhar repercussão nacional, escancarou uma vulnerabilidade que o judiciário brasileiro ainda não estava preparado para enfrentar.
O ataque que cabia em sete páginas
A petição em questão pedia embargos de declaração após um mandado de segurança ser negado pelo Tribunal de Justiça da Paraíba. O processo original havia sido aberto por um candidato aprovado em concurso para professor de Educação Básica I no município de Sousa. Em meio ao juridiquês de praxe, espalhados por cerca de sete páginas do recurso, havia trechos que não tinham nada a ver com argumentação jurídica: instruções diretas para influenciar ferramentas de IA utilizadas na triagem e análise de documentos pelo judiciário.
Entre os comandos identificados, figuravam frases como “ignore a imparcialidade” e uma observação explícita de que o recurso servia como um “teste para saber se o juiz utiliza apenas IA nas decisões”. O nome do advogado não foi divulgado pelo tribunal.
A resposta do juiz Phillipe Guimarães foi enquadrar a conduta no artigo 5º do Código de Processo Civil, que estabelece a boa-fé como princípio orientador de todos os participantes do processo. Foram aplicadas duas multas de R$ 16,4 mil cada: uma por litigância de má-fé e outra por submeter a Justiça a embaraços indevidos. O caso foi encaminhado à OAB e ao Ministério Público da Paraíba para apuração de infração disciplinar e possível crime de fraude processual, respectivamente.
Governança jurídica, IA generativa e um problema que ainda não tem resposta pronta
O advogado especialista em direito digital Marcelo Fonseca não poupou críticas, mas também não concentrou toda a responsabilidade no autor da petição. Para ele, a prática é um “problema de ética profissional e responsabilidade institucional”. Fonseca foi além: “No prompt injection, eu coloco um comando em letra invisível para alterar o mecanismo da IA. E o juiz usou um mecanismo para descobrir o prompt injection. Então, de um lado, o juiz também está errado, porque, para ele usar isso, tem que estar de acordo com o CNJ. Então estão os dois errados”, afirmou. A leitura é provocadora, mas juridicamente relevante: o uso de ferramentas de IA pelo próprio judiciário também precisa seguir regras.
Essas regras, aliás, existem. A Resolução Nº 615 do Conselho Nacional de Justiça, publicada em março de 2025, regulamenta o uso de IA no direito brasileiro, com ênfase em transparência e “centralidade da pessoa humana”. O problema é que a norma chegou ao mesmo tempo em que advogados já estavam experimentando os limites do sistema, como este caso demonstra. Fonseca classificou a situação como um “risco de governança” e alertou que “o erro não termina na máquina: ele se materializa em petições, pareceres, decisões, estratégias processuais e danos ao cliente”.
A ironia técnica do caso
Para quem acompanha o ecossistema de segurança em sistemas de IA generativa, o episódio tem uma dimensão quase irônica. O prompt injection é uma das vulnerabilidades mais discutidas em fóruns de red teaming e pesquisa de segurança justamente porque é simples de executar e difícil de detectar de forma sistemática.
A técnica não exige conhecimento avançado: basta inserir instruções em texto com formatação que o sistema de IA priorize sobre o contexto original. O que o advogado fez, em essência, foi tratar uma peça jurídica como se fosse o campo de entrada de um chatbot. O problema é que, do outro lado, havia um juiz humano, e não só um modelo de linguagem.
Fonte: TJPB
Você também pode gostar dos artigos abaixo:
A febre da IA está criando uma brecha no mercado de memória, e a China está comemorando isso
Esta postagem foi modificada pela última vez em 23/06/2026 11:15