Inteligência artificial: evento discute alcance de resolução sobre o tema

Você está visualizando atualmente Inteligência artificial: evento discute alcance de resolução sobre o tema
Webinar - "A Resolução CNJ nº 332: ética e governança para produção e uso da Inteligência Artificial - Foto: Romulo Serpa/Ag.CNJ
Compartilhe

As questões éticas e de governança envolvendo a produção e o uso de inteligência artificial (IA) no Poder Judiciário, reguladas pela Resolução CNJ nº 332/2020, foram tema do webinar promovido pelo Conselho Nacional de Justiça (CNJ) na última sexta-feira (4/9) e que atraiu cerca de 600 participantes. Editada no último dia 21 de agosto, a resolução define parâmetros para utilização de sistemas automatizados tendo como foco o atendimento aos jurisdicionados e a prestação equitativa da Justiça, conforme destacou o juiz auxiliar da presidência do CNJ e mediador do encontro, Bráulio Gusmão.

Leia também: IA no Judiciário deve garantir ética, transparência e responsabilidade

Na abertura, o secretário especial de Programas, Pesquisas e Gestão Estratégica do CNJ, Richard Pae Kim, ressaltou que, num momento histórico, o Brasil avança ao estabelecer diretrizes para o uso do novo recurso. “A IA tem que ser utilizada como ferramenta que auxilia o ser humano a tomar decisões. O objetivo é facilitar o fluxo de trabalho e não substituir as decisões dos seres humanos, muito menos dos magistrados”, declarou. Pae Kim afirmou que o tema é discutido em nível mundial e o Brasil saiu na frente ao aprovar a norma. “A IA não será usada apenas para pesquisa de jurisprudência ou para ajudar na automação dos processos. O Judiciário deu um grande passo com essa resolução, que prevê, inclusive, que ajustemos eventuais equívocos que possam ser cometidos.”

O presidente da Comissão Permanente de Tecnologia da Informação e Inovação do CNJ e coordenador do Grupo de Trabalho (GT) que elaborou a Resolução CNJ nº 332/2020, conselheiro Rubens Canuto, observou que o trabalho desenvolvido foi resultado de um esforço conjunto. Ele destacou que a resolução consolida todos os modelos de IA no Sistema Sinapses, desenvolvido pelo Departamento de Tecnologia do CNJ em conjunto com o Tribunal de Justiça de Rondônia (TJRO). “Ao concentrar todas as ações numa plataforma, conseguimos racionalizar gastos de recursos públicos, esforços do corpo técnico do Poder Judiciário e também o uso do tempo”, observou. Segundo ele, é uma experiência bem-sucedida e que está aberta a todos os tribunais do país. “Eles poderão utilizar o Sinapses, ajustá-lo ou usá-lo como base para criação de um modelo próprio.”

O webinar contou com a participação de integrantes de entidades representativas da magistratura. A presidente da Associação Nacional dos Magistrados da Justiça do Trabalho (Anamatra), Noemia Porto, falou sobre as várias possibilidades proporcionadas pela IA e ressaltou o pioneirismo do Judiciário brasileiro em relação ao tema. Na opinião da magistrada, o tema demanda reflexões urgentes e plurais, com a participação democrática das associações sobre os limites éticos e os necessários contornos processuais que ele envolve. “Por isso, o CNJ vai continuar tendo um papel fundamental no debate.”

Já o presidente da Associação dos Juízes Federais (Ajufe), Eduardo André Brandão, falou que o uso da ferramenta poderá elevar a eficiência da Justiça. “A pandemia que enfrentamos mostra a importância do uso das tecnologias e é nosso dever incentivar o desenvolvimento de soluções dessa natureza”, afirmou. O fato de a resolução não se ater apenas aos aspectos tecnológicos, mas observar questões que envolvem os direitos humanos foi destacado pela secretária-geral da Associação dos Magistrados Brasileiros (AMB), Julianne Freire Marques.

“Estamos enfrentando o desafio de nos adaptarmos a uma nova realidade, que nos impôs o afastamento em função da pandemia e a IA pode auxiliar o Judiciário a responder às novas demandas que se apresentam”, afirmou. Julianne Freire observou que, nesse aspecto, a norma editada pelo CNJ é fundamental porque consolida princípios éticos. Por sua vez o representante da Procuradoria-Geral da República (PGR), procurador Darlan Airton Dias, enfatizou que, como proliferam projetos da IA no Poder Judiciário e no Ministério Público, a norma se torna muito oportuna, pois estabelece governança e princípios para essas iniciativas. “A resolução acerta também ao estabelecer vínculos com os princípios constitucionais.”

Painéis

“Direitos fundamentais”, tema do primeiro painel do webinar, foi apresentado pelo desembargador Marcos Alaor Diniz Granjeia, que traçou um panorama histórico do desenvolvimento da IA no Poder Judiciário. “A Justiça brasileira carecia de um regramento, já que muitas experiências estão em desenvolvimento. Essa resolução se relaciona com o presente e com futuro, que traz incertezas e um grau de absoluta obscuridade”, afirmou. Em seguida, o magistrado do TJRO observou que não se sabe onde a IA vai chegar e, por isso, é necessário prevenir eventuais riscos que possam surgir. “Conseguimos um documento ímpar graças ao esforço desse GT, que serve de espelho para todos os outros poderes.”

Granjeia lembrou que, atualmente, ainda de forma embrionária, tramitam três projetos no Congresso Nacional sobre o tema. Segundo ele, nenhum se aproxima das minúcias e dos cuidados contidos no normativo editado pelo Conselho. “A IA é motivo de debates entre os formadores de opinião na área jurídica. E a Resolução CNJ nº 332/2020 apresenta ‘Considerandos’ que são absolutamente preciosos”, destaca. Ele citou o segundo que diz: “Considerando que, no desenvolvimento e na implantação da inteligência artificial, os tribunais deverão observar sua compatibilidade com os direitos fundamentais”.

O segundo painel, apresentado pela servidora do CNJ Luciane Gomes, abordou o tema “Princípio da não discriminação e o caráter multidisciplinar”. De acordo com ela, a elaboração do documento foi norteada por uma preocupação grande com a utilização de instrumentos tecnológicos. “Isso se dá a partir de uma atenção com possíveis vieses preconceituosos, o que é uma preocupação mundial. Envolve preceitos éticos, especificamente o princípio da não discriminação”, ressaltou. Segundo ela, houve preocupação especial em evitar discriminação algorítimica, que já aconteceu em outras áreas. “Isso justifica a fixação de parâmetros éticos para desenvolvimento e uso da IA.”

Luciane Gomes enfatizou que, nessa área, o Judiciário tem que ter uma preocupação maior porque precisar garantir a proteção dos juridicionados. “Um escopo primordial do princípio da não discriminação nas regras de IA está em não replicar comportamentos humanos prejudiciais, evitando qualquer viés discriminatórios e afastando a reprodução daqueles que, eventualmente já estiverem sedimentados nos dados que são utilizados para treinamento da máquina”, destacou. Segundo ela, as discriminações – e elas envolvem gênero, raça, etnia, cor, orientação sexual, pessoas com deficiência, classe social, – precisam ser afastadas. “O importante é que a Resolução determina a participação de diversos segmentos da sociedade, grupo heterogêneos para eliminar qualquer viés discriminatório.”

Jeferson Melo
Agência CNJ de Notícias