O Tribunal de Justiça de Mato Grosso do Sul (TJMS) intensificou suas ações de segurança em processos judiciais após a identificação de tentativas de manipulação utilizando Inteligência Artificial (IA) na 2ª Vara Cível de Campo Grande. Um escritório de advocacia inseriu instruções de texto invisíveis na leitura convencional em 28 ações, com o intuito de influenciar sistemas de IA que auxiliam o Poder Judiciário.
O desembargador Odemilson Fassa, que coordena o Comitê de Governança e Ética para o uso de Inteligência Artificial no TJMS, anunciou que uma nova ferramenta foi disponibilizada aos magistrados. Este recurso permite validar a integridade das peças jurídicas, gerando um relatório que identifica riscos de prompt injection, além de destacar trechos suspeitos e oferecer orientações sobre como proceder. "Essa abordagem já foi aplicada na 3ª Vara do Trabalho de Parauapebas (PA), onde o sistema Galileu conseguiu detectar comandos ocultos", explicou Fassa.
O desembargador enfatizou que a defesa institucional vai além da tecnologia, requerendo também a validação humana dos resultados gerados pelos sistemas de IA. Ele mencionou a importância do chamado human in the loop, que envolve a articulação entre esferas processuais, disciplinares e, se necessário, penais, para que as respostas institucionais sejam proporcionais à gravidade das condutas identificadas.
Um caso emblemático ocorreu em Campo Grande, onde a Justiça condenou o ex-major Sérgio Roberto de Carvalho, conhecido como "Escobar Brasileiro", após a descoberta de um "prompt injection" oculto na petição inicial. Ele buscava indenização por danos morais e pretendia impedir a veiculação do apelido na imprensa. A decisão, proferida em 19 de maio pelo juiz Renato Antonio de Liberali, da 11ª Vara Cível, resultou em uma multa de 10% sobre o valor da causa, que totalizava R$ 100 mil, equivalente a R$ 10 mil.
A sentença apontou que o texto oculto foi inserido no cabeçalho de todas as páginas da petição inicial e tinha a finalidade de influenciar a análise em tribunais superiores. O juiz concluiu que a inserção do comando configurou um ato atentatório à dignidade da Justiça, mesmo que não tivesse efeito imediato no julgamento do processo em primeira instância.
