TJPB reforça proteção da IA contra comandos ocultos

O Tribunal de Justiça da Paraíba (TJPB) adotou novas medidas de segurança para impedir a manipulação de suas ferramentas de inteligência artificial por meio de instruções escondidas em documentos judiciais.

A prática é chamada de “Prompt Injection”, expressão em inglês que significa “injeção de comandos”. Ela ocorre quando alguém coloca orientações escondidas em petições para tentar influenciar o resultado produzido pela tecnologia.

Essas instruções podem aparecer em textos invisíveis, letras brancas ou trechos codificados. O objetivo é fazer a ferramenta gerar pareceres, despachos ou minutas favoráveis ao conteúdo apresentado.

Para impedir esse tipo de ataque, o sistema utilizado pelo Tribunal consegue identificar padrões suspeitos em petições, contestações e outros documentos processuais.

Ao encontrar uma possível tentativa de manipulação, a ferramenta ignora as instruções, separa o conteúdo suspeito e envia um alerta ao magistrado ou assessor responsável.

Decisão continua com o magistrado

Apesar do uso da tecnologia, a análise humana permanece obrigatória. A inteligência artificial serve apenas como apoio na preparação de minutas e sentenças.

Portanto, todo conteúdo produzido pelo sistema precisa ser conferido e validado pelo julgador, conforme as orientações do Conselho Nacional de Justiça.

Segundo a Diretoria de Tecnologia da Informação do TJPB, o objetivo é aumentar a rapidez do trabalho sem comprometer a imparcialidade, a segurança e a ética dos processos.

A medida foi adotada após casos de inserção de instruções escondidas em petições na Justiça paraibana. As ocorrências resultaram em investigações disciplinares e na suspensão cautelar de advogados pela OAB-PB.

Como funciona a segurança

• Identificação: localiza orientações suspeitas no arquivo;
• Bloqueio: impede que a ferramenta siga a instrução;
• Aviso: alerta o magistrado ou assessor;
• Conferência: exige a revisão humana do conteúdo.