Presidente do TRF2 debate desafios do uso da inteligência artificial no sistema de Justiça na Rio Innovation Week

O Presidente do Tribunal Regional Federal da 2ª Região (TRF2), Desembargador Federal Luiz Paulo da Silva Araújo Filho, participou, nesta quarta-feira, 5 de agosto, da 6ª edição da Rio Innovation Week (RIW), considerada a maior conferência global de tecnologia e inovação, realizada anualmente na Zona Portuária do Rio de Janeiro.

Na ocasião, o magistrado palestrou para o público que lotou um dos auditórios do evento para acompanhar o painel sobre como a inteligência artificial (IA) está redesenhando o sistema de Justiça e os desafios do sistema processual e-Proc no Tribunal de Justiça do Estado do Rio de Janeiro (TJRJ) e no TRF2.

Ao abrir sua exposição, o Presidente lembrou que, na edição de 2025 da Rio Innovation Week, centrou sua fala na apresentação da Apoia, plataforma de inteligência artificial generativa desenvolvida pelo TRF2. Concebido sob a liderança da Presidência da Corte, o projeto foi adotado pelo Conselho Nacional de Justiça (CNJ) para ser a primeira IA generativa incorporada à Plataforma Digital do Poder Judiciário (PDPJ).

Desde então, destacou o magistrado, "o uso da IA generativa expandiu-se significativamente em todo o sistema de Justiça. E, entre os novos desafios, destaca-se o prompt injection, questão que passou a ganhar repercussão global".

O prompt injection, explicou o Presidente, é uma técnica maliciosa que consiste na inserção de comandos ocultos em documentos processuais destinados à leitura por sistemas de inteligência artificial. A prática busca influenciar o comportamento da ferramenta, induzindo-a, por exemplo, a omitir argumentos ou favorecer determinada tese da defesa.

O magistrado ressaltou que "estamos vivendo a era do direito digital, mas sob um sistema jurídico concebido para a realidade do direito analógico. Isso, naturalmente, exigirá uma reinterpretação do Direito. E esse é um grande desafio, porque a evolução das atividades digitais ocorre em uma velocidade impressionante, enquanto o processo de elaboração das leis é muito mais lento".

Ele também chamou a atenção para o fato de ainda não existir, na legislação brasileira, um tipo penal específico que abarque práticas fraudulentas como o prompt injection, embora exista corrente doutrinária que defenda a aplicação do crime de fraude processual, previsto no artigo 347 do Código Penal.

"O que não podemos deixar de fazer é punir com rigor quem se vale dessa artimanha. O problema é que a pena prevista para a fraude processual é muito branda: de três meses a dois anos de detenção, podendo chegar a seis meses a quatro anos quando destinada a produzir efeito em processo penal. Por isso, é necessário que a jurisprudência desenvolva interpretações capazes de assegurar uma resposta penal mais severa a quem pratica esse tipo de fraude", concluiu.

Apoia: segurança desde a fonte até o texto final

Na sequência, o Presidente apresentou o sistema de prevenção da Apoia contra o prompt injection, estruturado em três camadas de proteção. A primeira atua já na etapa de extração dos dados processuais, realizada exclusivamente a partir do Codex, sistema nacional adotado pelo CNJ para a consolidação de informações processuais do Poder Judiciário. Nessa fase inicial, o reconhecimento óptico de caracteres (OCR) já é capaz de eliminar textos invisíveis maliciosos.

Em seguida, prosseguiu o Desembargador Federal, a inteligência artificial realiza uma varredura simultânea e rigorosa do conteúdo, interrompendo a operação caso identifique comandos ocultos ou qualquer outro tipo de anomalia. Nessas situações, o trecho suspeito é destacado para que o magistrado possa adotar as providências cabíveis.

Por fim, a segurança é reforçada por um fluxo de trabalho que exige validação humana em todas as etapas antes da geração da minuta de decisão, assegurando que a palavra final sobre a procedência ou não dos pedidos permaneça sob responsabilidade do julgador.

Mediado pelo Procurador do Estado do Rio de Janeiro e Secretário de Estado da Casa Civil, Flávio Willeman, o painel contou ainda com a participação do Desembargador Paulo Wunder, que representou o Presidente do TJRJ e Governador em Exercício do Estado do Rio de Janeiro, Desembargador Ricardo Couto de Castro, da Presidente da Comissão Especial da OAB-RJ na Justiça Federal e curadora da Rio Innovation Week, Alessandra Lamha e da Presidente da Ordem dos Advogados do Brasil – Seção do Estado do Rio de Janeiro (OAB/RJ), Ana Tereza Basilio.