O Departamento de Justiça dos Estados Unidos não conseguiu convencer um grupo de legisladores americanos de que as agências policiais estaduais e locais não são premiadas com subsídios federais para comprar ferramentas de “policiamento” baseadas em IA conhecidas por serem imprecisas, se não propensas a agravar preconceitos já observados nas forças policiais dos EUA.
Sete membros do Congresso escreveram em uma carta ao DOJ, primeiro obtida pelo WIRED, que as informações que conseguiram obter da agência apenas serviram para inflamar suas preocupações sobre o programa de subsídios policiais do DOJ. Nada em suas respostas até o momento, disseram os legisladores, indica que o governo se deu ao trabalho de investigar se os departamentos premiados com subsídios compraram software discriminatório de policiamento.
“Instamos vocês a interromper todos os subsídios do Departamento de Justiça para sistemas de policiamento preditivo até que o DOJ possa garantir que os destinatários dos subsídios não usarão tais sistemas de maneiras que tenham impacto discriminatório”, diz a carta. O Departamento de Justiça admitiu anteriormente que não acompanhou se os departamentos de polícia estavam usando os fundos, concedidos sob o Programa de Auxílio à Justiça Memorial Edward Byrne, para comprar ferramentas de “policiamento preditivo”.
Liderados pelo senador Ron Wyden, democrata do Oregon, os legisladores afirmam que o DOJ é obrigado por lei a “rever periodicamente” se os destinatários dos subsídios cumprem o Título VI da Lei de Direitos Civis da nação. O DOJ é patente proibido, explicam eles, de financiar programas demonstrados como discriminatórios com base em raça, etnia ou origem nacional, quer esse resultado seja intencional ou não.
Investigações independentes na imprensa mostraram que ferramentas populares de policiamento “preditivo”, treinadas em dados históricos de crimes, muitas vezes replicam preconceitos de longa data, oferecendo às forças policiais, no melhor dos casos, um verniz de legitimidade científica, enquanto perpetuam a superpolícia de bairros predominantemente negros e latinos. Uma manchete de outubro do The Markup afirma claramente: “Software de Policiamento Preditivo Terrível em Prever Crimes”. A reportagem relata como pesquisadores da publicação recentemente examinaram 23.631 previsões de crimes policiais – e as encontraram precisas aproximadamente 1% do tempo.
“Sistemas de policiamento preditivo dependem de dados históricos distorcidos por relatos de crimes falsificados e prisões desproporcionais de pessoas de cor”, escreveram Wyden e os outros legisladores, prevendo – como muitos pesquisadores têm feito – que a tecnologia só serve para criar “loopings” perigosos. A declaração observa que “previsões enviesadas são usadas para justificar paradas e prisões desproporcionais em bairros minoritários”, enviesando ainda mais as estatísticas sobre onde os crimes ocorrem.
Os senadores Jeffrey Merkley, Ed Markey, Alex Padilla, Peter Welch e John Fetterman também assinaram a carta, assim como a representante Yvette Clarke.
Os legisladores solicitaram que um próximo relatório presidencial sobre policiamento e inteligência artificial investigue o uso de ferramentas de policiamento preditivo nos EUA. “O relatório deve avaliar a precisão e a precisão dos modelos de policiamento preditivo em relação às classes protegidas, sua interpretabilidade e validade”, incluindo, acrescentaram, “quaisquer limitações na avaliação de seus riscos decorrentes da falta de transparência das empresas que as desenvolvem”.
Caso o DOJ deseje continuar financiando a tecnologia após esta avaliação, os legisladores afirmam que pelo menos deve estabelecer “padrões de evidência” para determinar quais modelos preditivos são discriminatórios – e então rejeitar o financiamento para todos aqueles que não atendam a eles.