A aplicação de padrões antidiscriminatórios no uso de ferramentas tecnológicas, como de reconhecimento facial, passa não apenas pela construção social dos sistemas e na definição de seus logaritmos, mas também por uma regulação legal que desestimule o uso arbitrário da tecnologia.
Para o direito, essas inovações trazem desafios para a efetividade de normas e princípios que podem evitar a incidência de condutas que vão de encontro ao interesse coletivo, como a salvaguarda da igualdade de direitos, sem discriminação de raça, cor ou etnia. Como pontuado pelo artigo “Por um reconhecimento facial antidiscriminatório: o imperativo de assegurar bancos de rostos diversos e combater vieses raciais”, publicado no volume 7 da Revista Eletrônica do Conselho Nacional de Justiça (e-Revista CNJ), as distorções desses sistemas são maximizadas quando se tratam de pessoas não brancas.
De acordo com os autores, a doutora em direito pela Universidade Federal de Pernambuco (UFPE) Flavianne Fernanda Bitencourt Nóbrega, e o pesquisador na área de direitos humanos da UFPE João Vitor Sales Zaidan, esses vieses são resultado do uso de bancos de dados internacionais, que não contemplam uma diversidade social compatível com a população brasileira. Some-se ainda a falta de legislação adequada no país que regule a criação dos softwares.
Os especialistas destacam que há várias aplicações para a tecnologia de reconhecimento facial, mas seu uso ainda não foi massificado na esfera penal no Brasil, conforme dados do CNJ. Dessa forma, o texto defende que o Brasil ainda está em um estágio em que ainda é possível discutir e formular regulamentos para essas tecnologias, a fim de evitar que a sua utilização signifique o descumprimento de princípios constitucionais e de direitos fundamentais.
Nesse sentido, para que as normas jurídicas tenham a eficácia desejada, é imperativo que se entenda em detalhes o funcionamento de novas tecnologias para que direitos fundamentais já positivados também sejam garantidos de fato e não sejam violados em etapas de funcionamento. No entanto, percebe-se que as propostas legislativas não têm como foco exatamente a questão do reconhecimento facial. Isso mostra que o tema “pode não estar mobilizando tanto o debate público quanto outros temas correlatos, a exemplo da inteligência artificial e as lacunas da Lei Geral de Proteção de Dados (LGPD)”.
Para os autores, essa diferença na intensidade das discussões pode abrir margem para que a legislação se mantenha “lacônica e não incorpore regulações que são importantes para assegurar o combate a vieses raciais nessas inovações”. Eles afirmam ainda que grande parte dos problemas relacionados à discriminação em softwares são gerados por se basearem em bancos de dados estrangeiros, em que os algoritmos acabam por gerar vieses.
Esse fato comprova que o direito precisa incorporar a esses sistemas os “meandros técnicos do reconhecimento facial, de modo a criar normas que fixem padrões mínimos éticos, por meio de detalhes do processo de criação desses sistemas, com o objetivo de assegurar direitos antidiscriminatórios”. O artigo ressalta que o desafio de regulamentos e de políticas públicas éassegurar a igualdade jurídica àqueles entendidos como minorias, os que não têm hegemonia política e são ainda mais dependentes do ordenamento jurídico para verem os seus direitos se materializarem na realidade.
Sem um nível de especificidade estabelecido pela legislação e as demais normas que regulam as máquinas de reconhecimento facial não há como desenhar um sistema que aplique eficazmente o princípio da igualdade. “Aceitar algoritmos com vieses raciais, por exemplo, seria reafirmar que existem pessoas subincluídas na sociedade, no caso, na esfera do sistema e do banco de rostos utilizado, o que não é compatível com um sistema democrático que preza pela igualdade jurídica de seus cidadãos”, defendem os autores.
Com esse propósito, cabe também à sociedade civil a pressão sobre os legisladores para que esses elementos possam ser tema de normas futuras. Somente assim, poderão ser vistas mudanças no ordenamento que impactem a sociedade e “não permitam a reprodução de padrões de exclusão e discriminação com populações que já enfrentam tais problemáticas na sociedade brasileira e no mundo”.
Texto: Lenir Camimura
Edição: Thaís Cieglinski
Agência CNJ de Notícias
