Ação pede banimento da tecnologia de reconhecimento facial nos EUA

Williams passou a noite e mais algumas horas na cadeia, onde foi submetido a longos interrogatórios. A polícia identificou Williams, que é negro, como autor dos furtos, depois de examinar um vídeo de uma câmera de segurança da Shinola, uma butique de luxo, para fazer o reconhecimento facial e compará-lo com fotos em carteiras de motorista no banco de dados do estado.

A foto da carteira de motorista de Williams era antiga e não era muito clara, assim como a imagem do vídeo. Mas o chefe da equipe de segurança terceirizada da loja "reconheceu" o "suspeito", apesar de ele não estar no local no dia dos furtos.

Durante o interrogatório, em janeiro de 2020, a polícia mostrou a Williams uma foto extraída do vídeo produzido pela câmera de segurança. Willians disse aos policiais: "Esse não sou eu. Não acredito que vocês pensam que todos os negros são parecidos". Ao que um policial responde: "O computador diz que é você".

Depois disso, mais dois homens negros foram falsamente identificados pelo sistema de reconhecimento facial, fabricado pela empresa DataWorks Plus, segundo o site MIT Technology Review, do Instituto de Tecnologia de Massachusetts (MIT).

A American Civil Liberties Union (ACLU) e a Civil Rights Litigation Inititive (CRLI) da Faculdade de Direito da Universidade de Michigan representaram Williams. Na petição da ação que moveram contra a Polícia, as entidades alegam que a prisão de Williams violou a Quarta Emenda da Constituição os EUA, bem como a lei de direitos civis de Michigan.

A Quarta Emenda da Constituição, que é parte da Declaração de Direitos Fundamentais, é a que proíbe busca e apreensões não razoáveis e estabelece que essas ações precisam de um mandado judicial, baseado em causa provável e apoiado por juramento do requerente. E precisa descrever o local sujeito à busca e as pessoas ou coisas a serem apreendidas.

A petição apresenta quatro alegações principais. Três delas se focam na falta de causa provável para a prisão. A outra se foca em disparidades raciais no impacto do sistema de reconhecimento facial usado pela polícia de Detroit.

"Por empregar tecnologia que tem demonstrado, empiricamente, identificar erradamente pessoas negras em uma proporção muito maior do que as pessoas de outros grupos raciais, os investigadores negaram a Willians o gozo igual dos serviços, privilégios e vantagens garantidas pelo Departamento de Polícia de Detroit, por causa de sua raça e cor", diz a petição.

A revista MIT Technology Review acompanha essa e outras histórias semelhantes para denunciar tecnologias que prejudicam pessoas inocentes, especialmente as negras. Para a revista, o problema não é apenas do sistema de reconhecimento facial. Os vídeos produzidos por câmeras de segurança também são deficientes, porque não processam corretamente tons de pele. Uma pessoa negra pode parecer mais negra ou mais clara do que realmente é.

Também ligado à questão de tecnologias falhas, o professor da Faculdade de Computação e Informática da Universidade Presbiteriana Mackenzie, Vivaldo Breternitz, disse que "Williams é negro e outros casos de identificação incorreta, especialmente de negros, estão levando vários estados e cidades [dos EUA] a proibirem o uso desse tipo de software. Empresas como Microsoft, IBM e Amazon estão deixando de fornecer esse tipo de sistema às polícias". "O que se espera é que ferramentas como essas devem ser aperfeiçoadas e usadas apenas quando houver certeza de que não causarão problemas", completou.