O Departamento de Justiça dos Estados Unidos falhou em convencer um grupo de legisladores americanos de que as agências policiais estaduais e locais não recebem subsídios federais para comprar ferramentas de “policiamento” baseadas em IA conhecidas por serem imprecisas, se não por agravar preconceitos há muito observados nas forças policiais americanas.
Sete membros do Congresso escreveram em uma carta ao DOJ, obtida pela WIRED, que as informações que conseguiram obter da agência apenas serviram para inflamar suas preocupações com o programa de subsídios policiais do DOJ. Nada, até o momento, nas respostas do Departamento de Justiça indicou que o governo se preocupou em investigar se os departamentos premiados com subsídios compraram software discriminatório de policiamento.
“Instamos você a interromper todos os subsídios do Departamento de Justiça para sistemas de policiamento preditivo até que o DOJ possa garantir que os beneficiários dos subsídios não usarão tais sistemas de maneiras que tenham um impacto discriminatório”, diz a carta. O Departamento de Justiça anteriormente reconheceu que não havia acompanhado se os departamentos de polícia estavam usando os recursos concedidos, concedidos sob o Programa de Assistência à Justiça Memorial Edward Byrne, para comprar as chamadas ferramentas de policiamento preditivo.
Liderados pelo Senador Ron Wyden, democrata do Oregon, os legisladores dizem que o DOJ é obrigado por lei a “rever periodicamente” se os beneficiários dos subsídios cumprem o Título VI da Lei de Direitos Civis da nação. O DOJ é explicitamente proibido, explicam, de financiar programas que se mostram discriminatórios com base na raça, etnia ou origem nacional, quer esse resultado seja intencional ou não.
Investigações independentes na imprensa descobriram que as populares ferramentas de policiamento “preditivo”, treinadas em dados históricos de crimes, muitas vezes replicam preconceitos antigos, oferecendo às forças policiais, no melhor dos casos, uma aparência de legitimidade científica, ao mesmo tempo em que perpetuam a supervisão excessiva de bairros predominantemente negros e latinos. Uma manchete de outubro do The Markup diz claramente: “Software de Policiamento Preditivo é Terrível em Prever Crimes”. A história conta como pesquisadores da publicação recentemente examinaram 23.631 previsões de crimes policiais e as consideraram precisas apenas cerca de 1% do tempo.
“Sistemas de policiamento preditivo dependem de dados históricos distorcidos por relatos falsos de crimes e prisões desproporcionais de pessoas de cor”, escreveram Wyden e os outros legisladores, prevendo – como muitos pesquisadores têm – que a tecnologia serve apenas para criar “loops” perigosos. A declaração observa que “previsões tendenciosas são usadas para justificar paradas e prisões desproporcionais em bairros minoritários”, o que ainda mais distorce estatísticas sobre onde os crimes ocorrem.
Os Senadores Jeffrey Merkley, Ed Markey, Alex Padilla, Peter Welch e John Fetterman também assinaram a carta, assim como a Representante Yvette Clarke.
Os legisladores solicitaram que um próximo relatório presidencial sobre policiamento e inteligência artificial investigue o uso de ferramentas de policiamento preditivo nos EUA. “O relatório deve avaliar a precisão e precisão dos modelos de policiamento preditivo em classes protegidas, sua interpretabilidade e validade”, para incluir, acrescentaram, “quaisquer limites na avaliação dos riscos apresentados por uma falta de transparência das empresas que os desenvolvem.”
Caso o DOJ deseje continuar financiando a tecnologia após essa avaliação, os legisladores dizem que pelo menos deveria estabelecer “padrões de evidência” para determinar quais modelos preditivos são discriminatórios e, em seguida, rejeitar o financiamento para todos aqueles que falharem em satisfazê-los.
