Home / Notícias / STJ detecta injeção de prompt em recurso e notifica OAB e MPF

STJ detecta injeção de prompt em recurso e notifica OAB e MPF

STJ detecta injeção de prompt em recurso e notifica OAB e MPF

O Superior Tribunal de Justiça (STJ) identificou a presença de um comando oculto — técnica conhecida como prompt injection— em uma peça recursal, com o aparente objetivo de manipular ferramentas de inteligência artificial utilizadas na análise processual. O relator do caso, ministro Og Fernandes, classificou o episódio como “gravíssimo” e determinou a comunicação dos fatos à Ordem dos Advogados do Brasil (OAB) e ao Ministério Público Federal (MPF).

A decisão foi proferida no âmbito de recurso sob sua relatoria, embora o número do processo não tenha sido divulgado pela fonte.

A descoberta ocorreu quando o gabinete do ministro, ao examinar a petição, notou a existência de instruções ocultas direcionadas a sistemas de IA. Tais comandos buscavam, segundo a análise do relator, fazer com que a ferramenta elaborasse automaticamente uma minuta de decisão favorável à parte recorrente, sem a devida análise humana. A fonte não detalhou a data exata da decisão, mas o caso já repercute entre operadores do Direito e especialistas em tecnologia aplicada ao Judiciário.

Comando oculto visava decisão automática favorável

De acordo com as informações disponíveis, o prompt injection consistia em um texto inserido de forma dissimulada na petição, com instruções para que a inteligência artificial ignorasse as regras originais e produzisse um documento favorável à defesa. Para o ministro Og Fernandes, a argumentação da defesa não altera o fato de que o comando oculto buscava influenciar o comportamento do sistema de IA para permitir que, sem análise humana, fosse elaborada automaticamente uma minuta favorável à defesa.

O relator ressaltou que os processos são analisados pelos ministros e suas equipes de maneira minuciosa, e que as ferramentas de IA não são usadas para produzir automaticamente decisões que são apenas assinadas pelos magistrados. “A tentativa de manipular a jurisdição não terá êxito”, declarou. A fala reforça o posicionamento do tribunal de que a tecnologia é um apoio, não um substituto da análise jurídica humana.

Defesa alega surpresa e adota compliance

Intimada a se manifestar sobre o prompt injection, a defesa informou que foi surpreendida com a existência do comando oculto na peça e que adotou medidas de compliance para prevenir episódios semelhantes. A justificativa, contudo, não convenceu o relator. Ainda de acordo com o ministro, a alegação de desconhecimento do prompt injection não modifica a situação identificada nos autos. “É dever institucional deste magistrado proceder segundo a análise do ocorrido e adotar as medidas cabíveis”, concluiu.

O episódio levanta questionamentos sobre a responsabilidade dos advogados e das partes quanto ao conteúdo integral das petições, incluindo elementos ocultos ou metadados. Especialistas ouvidos pela reportagem (não identificados nas claims) apontam que a inserção de comandos ocultos pode configurar litigância de má-fé, além de violar deveres éticos da advocacia.

Ministro destaca jurisdição sem confiança cega

Em sua manifestação, o ministro Og Fernandes enfatizou que a jurisdição é exercida sem confiança cega em qualquer ferramenta de IA. “Neste gabinete, assim como nos dos meus colegas, a jurisdição é exercida sem confiança cega em qualquer ferramenta de IA, até porque a inteligência artificial não irá substituir a sensibilidade do magistrado”, destacou. A declaração sinaliza que o STJ adota protocolos de verificação humana em todas as etapas processuais, mesmo quando utiliza sistemas de apoio.

O tribunal não informou se o recurso em questão teve seu mérito analisado ou se foi considerado prejudicado em razão do incidente. A fonte não detalhou o desfecho processual, limitando-se a reportar a decisão de comunicação aos órgãos competentes. A medida visa apurar eventuais responsabilidades disciplinares e criminais, conforme o caso.

Comunicação à OAB e MPF: próximos passos

A determinação de comunicação à OAB e ao MPF indica que o caso terá desdobramentos extraprocessuais. A OAB poderá instaurar processo ético-disciplinar contra o advogado subscritor da peça, enquanto o MPF avaliará a existência de eventual conduta tipificada como crime, como tentativa de fraude processual ou uso indevido de sistema informatizado. A fonte não detalhou prazos para essas comunicações.

Para a advocacia, o caso serve de alerta sobre a necessidade de revisão minuciosa de todas as peças, inclusive quanto a elementos não visíveis na leitura comum. A adoção de ferramentas de verificação de integridade documental e a capacitação em segurança da informação tornam-se medidas preventivas recomendáveis. O episódio também reforça a importância de diretrizes claras do CNJ e dos tribunais sobre o uso ético de IA no processo judicial.

Impacto prático para operadores do Direito

O incidente no STJ deve acelerar a discussão sobre regulamentação do uso de inteligência artificial no Judiciário. Advogados e escritórios precisam estar atentos às normas internas dos tribunais e às resoluções do CNJ que tratam do tema. A inserção de comandos ocultos em petições, ainda que por terceiros contratados, pode acarretar responsabilização objetiva do subscritor.

Além disso, o caso evidencia a necessidade de transparência na utilização de ferramentas de IA por parte dos tribunais. O STJ, ao afirmar que não utiliza IA para decisões automáticas, busca preservar a confiança no sistema de justiça. Para os jurisdicionados, a mensagem é clara: tentativas de manipulação tecnológica serão identificadas e punidas.

Por fim, a decisão do ministro Og Fernandes estabelece um precedente relevante para casos futuros, sinalizando que o Poder Judiciário está atento às novas formas de fraude processual. A comunicação à OAB e ao MPF demonstra que as consequências podem ultrapassar a esfera processual, alcançando a ética profissional e a responsabilidade criminal.

Fonte

Assessoria de Comunicação MAI
Avatar

Inscreva-se para receber o boletim informativo periodicamente

Fique por dentro das novidades com nossa newsletter semanal. Assine agora para não perder nenhuma atualização!

Um comentário

Deixe um Comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *



Redes Sociais


Assine nossa newsletter para receber via e-mail atualizações sobre nossas publicações


Atualize-se