O Departamento de Justiça dos Estados Unidos não conseguiu convencer um grupo de legisladores americanos de que as agências locais e estaduais de polícia não recebem subsídios federais para comprar ferramentas de “policiamento” baseadas em inteligência artificial conhecidas por serem imprecisas, se não propensas a agravar viés há muito observado nas forças policiais dos EUA.
Sete membros do Congresso escreveram em uma carta ao DOJ, primeiro obtida pela WIRED, que as informações que conseguiram arrancar da agência apenas serviram para inflamar suas preocupações em relação ao programa de subsídios policiais do DOJ. Nada em suas respostas até agora, disseram os legisladores, indica que o governo se deu ao trabalho de investigar se os departamentos beneficiados com subsídios compraram software discriminatório de policiamento.
“Nós instamos você a interromper todos os subsídios do Departamento de Justiça para sistemas de policiamento preditivo até que o DOJ possa garantir que os beneficiários dos subsídios não usarão tais sistemas de forma a ter um impacto discriminatório”, diz a carta. O Departamento de Justiça anteriormente reconheceu que não acompanhou se os departamentos de polícia estavam usando o financiamento, concedido sob o Programa de Auxílio à Justiça Memorial Edward Byrne, para comprar ferramentas de policiamento preditivo.
Liderados pelo senador Ron Wyden, do Partido Democrata de Oregon, os legisladores dizem que o DOJ é obrigado por lei a “revisar periodicamente” se os beneficiários dos subsídios estão em conformidade com o Título VI da Lei de Direitos Civis do país. O DOJ é patente proibido, explicam, de financiar programas comprovadamente discriminatórios com base na raça, etnia ou origem nacional, seja essa consequência intencional ou não.
Investigações independentes na imprensa descobriram que ferramentas de policiamento “preditivas” populares, treinadas em dados históricos de crimes, muitas vezes replicam preconceitos de longa data, oferecendo à aplicação da lei, no máximo, um verniz de legitimidade científica, enquanto perpetuam a superpolicialização de bairros predominantemente negros e latinos. Uma manchete de outubro do The Markup declara claramente: “Software de Policiamento Preditivo Terrível na Previsão de Crimes”. A história relata como pesquisadores da publicação examinaram recentemente 23.631 previsões de crimes da polícia – e as encontraram corretas apenas cerca de 1% do tempo.
“Sistemas de policiamento preditivo dependem de dados históricos distorcidos por relatos fraudulentos de crimes e prisões desproporcionais de pessoas de cor”, escreveram Wyden e os outros legisladores, prevendo, como muitos pesquisadores têm feito, que a tecnologia serve apenas para criar “ciclos perigosos”. A declaração observa que “previsões tendenciosas são usadas para justificar paradas e prisões desproporcionais em bairros minoritários”, aumentando ainda mais os dados sobre onde os crimes ocorrem.
Os senadores Jeffrey Merkley, Ed Markey, Alex Padilla, Peter Welch e John Fetterman também assinaram a carta, assim como a representante Yvette Clarke.
Os legisladores pediram que um próximo relatório presidencial sobre policiamento e inteligência artificial investigue o uso de ferramentas de policiamento preditivo nos EUA. “O relatório deve avaliar a precisão e precisão dos modelos de policiamento preditivo em relação às classes protegidas, sua interpretabilidade e sua validade”, e incluir, acrescentaram, “quaisquer limitações na avaliação de seus riscos causados por uma falta de transparência das empresas que os desenvolvem”.
Caso o DOJ deseje continuar financiando a tecnologia após essa avaliação, os legisladores dizem que ele deve pelo menos estabelecer “padrões de evidência” para determinar quais modelos preditivos são discriminatórios – e então rejeitar o financiamento para todos aqueles que não conseguirem atender a esses padrões.
