O Departamento de Justiça dos Estados Unidos não conseguiu convencer um grupo de legisladores americanos de que as agências policiais locais e estaduais não recebem bolsas federais para comprar ferramentas de “policiamento” baseadas em IA conhecidas por serem imprecisas, se não propensas a agravar os preconceitos observados há muito tempo nas forças policiais dos EUA. Sete membros do Congresso escreveram em uma carta ao DOJ, primeiramente obtida pela WIRED, que as informações que conseguiram arrancar da agência apenas serviram para inflamar suas preocupações sobre o programa de concessão de bolsas da polícia do DOJ. Nada em suas respostas até agora, disseram os legisladores, indica que o governo tenha se incomodado em investigar se os departamentos premiados com bolsas compraram software policial discriminatório. “Instamos você a interromper todas as bolsas do Departamento de Justiça para sistemas de policiamento preditivo até que o DOJ possa garantir que os beneficiários das bolsas não usarão tais sistemas de forma a ter impacto discriminatório,” diz a carta. Investigando preocupações expressas por Senador Ron Wyden, democrata do Oregon, os legisladores afirmam que o DOJ é obrigado por lei a “rever periodicamente” se os beneficiários das bolsas cumprem o Título VI da Lei de Direitos Civis do país. O DOJ é claramente proibido, explicam, de financiar programas que mostram discriminação com base na raça, etnia ou origem nacional, seja essa consequência intencional ou não. Investigações independentes na imprensa descobriram que as populares ferramentas de policiamento “preditivas”, treinadas em dados históricos de crimes, muitas vezes replicam preconceitos antigos, oferecendo às forças policiais, no máximo, uma fachada de legitimidade científica enquanto perpetuam a superpoliciamento de bairros predominantemente negros e latinos. Uma manchete de outubro do The Markup afirma, francamente: “Software de Policiamento Preditivo Péssimo em Prever Crimes.” O texto relata como os pesquisadores da publicação recentemente examinaram 23.631 previsões de crimes policiais e as consideraram precisas aproximadamente 1% do tempo. “Os sistemas de policiamento preditivo dependem de dados históricos distorcidos por relatórios de crimes falsificados e detenções desproporcionais de pessoas de cor,” escreveram Wyden e os outros legisladores, prevendo, como muitos pesquisadores têm feito, que a tecnologia serve apenas para criar “ciclos perigosos”. A declaração observa que “previsões tendenciosas são usadas para justificar paradas e detenções desproporcionais em bairros minoritários,” acrescentando ainda mais viés às estatísticas sobre onde ocorrem os crimes. Os senadores Jeffrey Merkley, Ed Markey, Alex Padilla, Peter Welch e John Fetterman também assinaram a carta, assim como a representante Yvette Clarke. Os legisladores pediram que um próximo relatório presidencial sobre policiamento e inteligência artificial investigue o uso de ferramentas de policiamento preditivo nos EUA. “O relatório deve avaliar a precisão e a precisão dos modelos de policiamento preditivo em todas as classes protegidas, sua interpretabilidade e validade,” para incluir, acrescentaram, “quaisquer limites na avaliação de seus riscos causados por falta de transparência das empresas que os desenvolvem.” Caso o DOJ deseje continuar financiando a tecnologia após esta avaliação, os legisladores afirmam, ele deve estabelecer pelo menos “padrões de evidência” para determinar quais modelos preditivos são discriminatórios e, então, rejeitar o financiamento para todos aqueles que não conseguem cumpri-los.