O uso de inteligência artificial no sistema judiciário brasileiro voltou ao centro das atenções após o Superior Tribunal de Justiça confirmar que identificou tentativas de utilização da técnica conhecida como “prompt injection” em petições presentes no acervo processual da corte.
Segundo o tribunal, a prática consiste na inserção de comandos ocultos em documentos aparentemente comuns, com o objetivo de manipular sistemas de inteligência artificial utilizados na análise de informações processuais.
De acordo com a informação divulgada pelo STJ, as tentativas foram detectadas nas últimas semanas e passaram a ser monitoradas internamente pela corte. O caso ganhou relevância após episódios semelhantes terem sido noticiados recentemente no âmbito da Justiça do Trabalho, especialmente no Tribunal Regional do Trabalho da 8ª Região.
O presidente do STJ, Herman Benjamin, afirmou que todas as ocorrências identificadas serão apuradas e que o tribunal já trabalha no mapeamento das tentativas de fraude processual envolvendo inteligência artificial.
Segundo o ministro, o sistema de IA generativa desenvolvido pelo tribunal, denominado STJ Logos, foi projetado com mecanismos específicos para impedir esse tipo de interferência.
“O STJ Logos já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar”, afirmou Herman Benjamin.
Ainda segundo a Presidência da corte, as tentativas de uso da técnica serão certificadas nos autos processuais para permitir eventual aplicação de sanções processuais e responsabilizações administrativas e criminais.
Sistema do STJ utiliza múltiplas camadas de segurança
O STJ informou que o sistema STJ Logos opera com uma estrutura de proteção baseada em três níveis complementares de segurança e integridade.
No primeiro nível, o sistema realiza um pré-processamento das informações recebidas, separando instruções legítimas de possíveis comandos ocultos inseridos nos documentos processuais. Segundo o tribunal, essa camada atua neutralizando conteúdos maliciosos antes que eles alcancem o modelo de inteligência artificial.
Na segunda etapa, o sistema estabelece uma delimitação de escopo contextual, mecanismo que impede que instruções externas interfiram nas regras centrais de funcionamento da plataforma.
Já no terceiro nível, é aplicado um filtro de conformidade responsável por revisar a saída produzida pela inteligência artificial, garantindo alinhamento às políticas de segurança adotadas pelo tribunal.
De acordo com o STJ, a segurança e a integridade processual são prioridades desde o início do desenvolvimento das ferramentas de inteligência artificial implementadas pela corte, cujo lançamento oficial ocorreu em fevereiro de 2025.
Investigação poderá alcançar advogados e escritórios
Além das medidas tecnológicas já implementadas, a Presidência do Superior Tribunal de Justiça determinou a instauração de inquérito policial e procedimento administrativo para apuração das tentativas identificadas.
Segundo o comunicado, haverá oitiva de advogados e escritórios eventualmente envolvidos, com análise sobre possíveis responsabilidades no âmbito criminal e correicional.
O tribunal também informou que ministros e ministras da corte poderão aplicar sanções processuais nos casos em que houver identificação de tentativa de manipulação dos sistemas de IA.
O que é o “prompt injection”
Segundo a explicação divulgada pelo próprio STJ, o prompt injection é uma técnica utilizada para tentar enganar sistemas de inteligência artificial, especialmente grandes modelos de linguagem conhecidos como LLMs.
A prática ocorre quando comandos são inseridos de forma oculta em documentos como petições, recursos ou outros arquivos textuais. O objetivo seria fazer com que o sistema de IA ignore parâmetros originais de análise e execute instruções inseridas por usuários.
De acordo com o tribunal, esses comandos podem tentar direcionar respostas ou favorecer uma das partes envolvidas no processo.
O STJ informou que, embora as tentativas identificadas tenham sido neutralizadas pelos mecanismos internos de segurança do sistema, os episódios passaram a ser tratados como situações que exigem investigação formal e acompanhamento permanente.
A notícia foi divulgada pela Secretaria de Comunicação Social do Superior Tribunal de Justiça e integra o conjunto de ações da corte relacionadas ao uso de inteligência artificial no ambiente judicial brasileiro.