O Tribunal de Justiça da Paraíba (TJPB) implementou novas medidas de segurança para evitar tentativas de manipulação das ferramentas de inteligência artificial utilizadas no apoio às atividades judiciais. A iniciativa busca impedir que comandos ocultos inseridos em documentos processuais interfiram na produção de minutas, pareceres e despachos elaborados com auxílio da tecnologia.
A prática, conhecida como “Prompt Injection” — expressão em inglês que significa “injeção de comandos” — consiste na inserção de instruções escondidas em petições e outros documentos com o objetivo de influenciar o comportamento dos sistemas de inteligência artificial.
Segundo o Tribunal, essas orientações podem ser ocultadas por meio de textos invisíveis, letras na cor branca ou trechos codificados, dificultando sua identificação durante uma leitura convencional. A intenção seria induzir a ferramenta a produzir conteúdos favoráveis aos interesses de uma das partes envolvidas no processo.
Para impedir esse tipo de tentativa, o sistema adotado pelo TJPB foi desenvolvido para identificar automaticamente padrões considerados suspeitos em petições, contestações e demais documentos protocolados.
Quando detecta uma possível manipulação, a ferramenta desconsidera as instruções ocultas, isola o conteúdo suspeito e encaminha um alerta ao magistrado ou assessor responsável pela análise do processo.
Inteligência artificial atua apenas como apoio
Apesar da utilização da inteligência artificial para auxiliar na elaboração de minutas e outros documentos, o Tribunal destaca que a decisão final continua sendo de responsabilidade exclusiva do magistrado.
Todo o material produzido pelo sistema passa obrigatoriamente por revisão humana antes de qualquer utilização, em conformidade com as diretrizes estabelecidas pelo Conselho Nacional de Justiça (CNJ).
De acordo com a Diretoria de Tecnologia da Informação do TJPB, a adoção dos novos mecanismos busca tornar a prestação jurisdicional mais ágil, sem comprometer princípios como imparcialidade, segurança jurídica e ética no uso da inteligência artificial.
A iniciativa foi implementada após a identificação de casos de inserção de comandos ocultos em petições apresentadas na Justiça paraibana. As ocorrências motivaram investigações disciplinares e resultaram na suspensão cautelar de advogados pela Ordem dos Advogados do Brasil, Seccional Paraíba (OAB-PB).
Como funciona o sistema
O novo mecanismo de segurança atua em quatro etapas:
- Identificação: detecta comandos e instruções ocultas inseridas nos documentos;
- Bloqueio: impede que a inteligência artificial execute os comandos suspeitos;
- Alerta: comunica imediatamente o magistrado ou assessor responsável sobre a tentativa de manipulação;
- Revisão humana: garante que todo o conteúdo gerado pela ferramenta seja conferido e validado antes de integrar qualquer decisão judicial.
