Debates e propostas devem atualizar normas sobre o uso de IA no Judiciário

A regulamentação sobre o uso de Inteligência Artificial (IA) no Poder Judiciário deve observar aspectos que vão desde a centralidade da pessoa humana até a própria evolução tecnológica. No último dia da audiência pública que debateu o tema no Conselho Nacional de Justiça (CNJ), foram apresentadas ponderações sobre os riscos e benefícios do uso da ferramenta pelo Judiciário. As discussões, concluídas na sexta-feira (27/9), deverão resultar em diretrizes para a adoção da IA pelos tribunais. 

A audiência pública reuniu 60 especialistas nacionais e internacionais de várias áreas. “A IA é uma ferramenta que vai dar agilidade e eficiência no Judiciário, mas precisamos colocar regras claras para que as pessoas não sejam julgadas por robôs”, afirmou o coordenador do grupo de trabalho sobre Inteligência Artificial no Poder Judiciário, conselheiro do CNJ Luiz Fernando Bandeira de Mello. 

Durante três dias, profissionais de TI, operadores do direito, representantes da Academia, dos Executivos municipais, estaduais e federal participaram dos debates. Também participaram professores de outros países, como Alemanha, Polônia, Estados Unidos, França e Colômbia. Vários temas marcaram as discussões, como a auditabilidade e governança do uso de inteligência artificial. Os especialistas destacaram a questão como algo sensível, com as diretrizes para que não sejam expostos nenhum dado sigiloso na internet.  

Veja a relação de especialistas que participaram da audiência pública sobre uso de IA no Judiciário

A preocupação com a capacitação e letramento para o uso da IA também foi citada. A demanda foi confirmada na pesquisa “O uso da Inteligência Artificial Generativa no Poder Judiciário” divulgada na quarta-feira (25/9), primeiro dia das audiências. O levantamento demonstrou um interesse geral do Judiciário pelo treinamento.  

A centralidade da pessoa humana no acompanhamento e supervisão do que é produzido pela IA foi uníssona nos debates. O valor do potencial humano nessa aplicação evita vieses discriminatórios e demais equívocos, incluindo a proteção de dados em ambientes custodiados, com uso seguro e responsável, a partir da aplicação estratégica e crítica. Segundo os especialistas, o impacto algorítmico deve ser acrescido de um olhar cuidadoso e preventivo para a proteção da pessoa.  

“Tivemos opiniões divergentes quanto ao uso da IA na produção de decisões judiciais”, destacou o conselheiro. Para alguns especialistas, a ferramenta poderia ser usada para classificar processo, mas não para produzir decisão. Outros, porém, mostraram suas experiências com o uso da IA pelo tribunal, demonstrando, inclusive, como fazer o prompt para gerar a decisão. “Tivemos um leque de pontos de vista e de colocações em alguns momentos até contraditórias. E é bom que seja assim, pois é dessa miscelânea de posicionamentos e de visões que vamos tentar achar a melhor solução”, disse Bandeira.

Também foram recebidas sugestões de associações da magistratura e de presidentes de tribunais. Uma das propostas é a criação de um Banco Nacional de Incidentes para que se tenha um registro dos problemas e aperfeiçoar a IA. “Houve um amadurecimento nesse tema. O crescimento no interesse na IA é evidente até por conta da evolução da própria ferramenta. O tema ganhou complexidade e há a necessidade de olhares múltiplos e acredito que é preciso a revisão da resolução para incluir a IA generativa”, completou Bandeira.  

Todas as exposições estão disponíveis no canal do CNJ no YouTube.

Próximos passos

As propostas seguem agora para o grupo de trabalho que elabora a atualização da Resolução CNJ n. 332/2020, que trata do tema. A expectativa, segundo Bandeira, é que a apreciação pelo Plenário do CNJ aconteça ainda este ano. O conselheiro disse ainda que a ideia é ajudar a Justiça a construir um legado. “O Judiciário brasileiro está na vanguarda da aplicação de tecnologia, se comparar a outros países”. O objetivo, segundo ele, é entregar um trabalho definitivo “que permita que a IA possa se desenvolver e evoluir sem perdermos o controle”.