O Departamento de Justiça dos Estados Unidos falhou em convencer um grupo de legisladores americanos de que as agências policiais estaduais e locais não recebem subsídios federais para comprar ferramentas de “policing” baseadas em inteligência artificial, conhecidas por serem imprecisas e propensas a agravar preconceitos há muito observados nas forças policiais americanas.

Sete membros do Congresso escreveram em uma carta ao DOJ, obtida pelo WIRED, que as informações que conseguiram arrancar da agência apenas serviram para inflamar suas preocupações sobre o programa de subsídios policiais do DOJ. Até o momento, os legisladores disseram, nada nas respostas dadas indica que o governo tenha se preocupado em investigar se os departamentos que receberam subsídios compraram software policial discriminatório.

“Instamos que parem todos os subsídios do Departamento de Justiça para sistemas de policiamento preditivo até que o DOJ possa garantir que os beneficiários dos subsídios não usem tais sistemas de maneira discriminatória,” diz a carta. O Departamento de Justiça já reconheceu que não acompanhava se os departamentos de polícia estavam utilizando os recursos, concedidos sob o Programa de Assistência em Memória da Justiça Edward Byrne, para adquirir ferramentas de “policing” preditivo.

Liderados pelo Senador Ron Wyden, do Partido Democrata de Oregon, os legisladores afirmam que o DOJ é obrigado por lei a “revisar periodicamente” se os beneficiários dos subsídios cumprem o Título VI da Lei de Direitos Civis do país. Eles argumentam que o DOJ é explicitamente proibido de financiar programas demonstradamente discriminatórios com base em raça, etnia ou nacionalidade, seja essa discriminação intencional ou não.

Investigações independentes na imprensa descobriram que as populares ferramentas de policiamento “preditivo”, treinadas em dados históricos de crimes, muitas vezes replicam preconceitos de longa data, oferecendo à aplicação da lei, no máximo, uma aparência de legitimidade científica enquanto perpetuam a superpolícia de bairros predominantemente negros e latinos. Uma manchete de outubro do The Markup afirma categoricamente: “Software de Policiamento Preditivo Péssimo em Prever Crimes.” A matéria relata como os pesquisadores da publicação recentemente examinaram 23.631 previsões de crimes policiais – e descobriram que eram precisas aproximadamente 1% das vezes.

“Sistemas de policiamento preditivo dependem de dados históricos distorcidos por relatos de crimes falsificados e prisões desproporcionais de pessoas de cor,” escreveram Wyden e os outros legisladores, prevendo—como muitos pesquisadores têm feito—que a tecnologia serve apenas para criar “ciclos perigosos.” A declaração observa que “previsões tendenciosas são usadas para justificar paradas e prisões desproporcionais em bairros minoritários,” aumentando ainda mais as estatísticas sobre onde os crimes ocorrem.

Os senadores Jeffrey Merkley, Ed Markey, Alex Padilla, Peter Welch e John Fetterman também assinaram a carta, assim como a deputada Yvette Clarke.

Os legisladores solicitaram que um próximo relatório presidencial sobre policiamento e inteligência artificial investigue o uso de ferramentas de policiamento preditivo nos EUA. “O relatório deve avaliar a precisão e a precisão dos modelos de policiamento preditivo em classes protegidas, sua interpretabilidade e sua validade,” incluindo, eles acrescentaram, “quaisquer limitações para avaliar os riscos apresentados pela falta de transparência das empresas que os desenvolvem.”

Caso o DOJ queira continuar financiando a tecnologia após essa avaliação, os legisladores afirmam que pelo menos deveria estabelecer “normas de evidência” para determinar quais modelos preditivos são discriminatórios – e então rejeitar o financiamento para todos aqueles que não atenderem a esses padrões.