Robert Williams foi preso porque um computador e alguns policiais de Detroit cometeram um erro.
Os policiais confiaram no software de reconhecimento facial para identificar Williams como suspeito em um caso de furto em 15 meses. Eles estavam errados, fazendo de Williams o primeiro caso de prisão ilegal conhecido como resultado de um reconhecimento facial defeituoso.
No início deste mês, IBM, Microsoft e Amazon desistiram ou interromperam a venda de ferramentas de reconhecimento facial para a polícia dos EUA e instaram o Congresso a regulamentar a tecnologia. Mas o software que identificou Williams incorretamente não era de uma grande empresa de tecnologia com um nome familiar. Foi vendido pelo empreiteiro de aplicação da lei DataWorks Plus e alimentado por algoritmos da empresa japonesa de tecnologia NEC e Rank One Computing, com sede no Colorado.
O DataWorks Plus é um dos maiores revendedores de tecnologia de reconhecimento facial dos departamentos de polícia dos EUA e possui contratos de reconhecimento facial com a polícia de Detroit, Chicago, Nova York, Santa Barbara, Carolina do Sul, Pensilvânia e Maryland. Embora não construa os algoritmos, a empresa vende acesso a ferramentas criadas por outras empresas de perfil baixo como NEC, Rank One Computing e Cognitech.
“A imagem é um pouco difícil de entender porque essas empresas são renomeadas e compradas e vendidas com muita, muita frequência”, disse Clare Garvie, que investiga o uso policial do reconhecimento facial no Centro de Tecnologia e Privacidade da Faculdade de Direito da Faculdade de Direito de Georgetown. . Em 2016, divulgou um relatório que estima que pelo menos um em cada quatro órgãos estaduais e municipais dos EUA tem acesso ao reconhecimento facial.
As ferramentas que eles constroem são igualmente opacas. A maioria das informações publicamente disponíveis sobre sua precisão e como seu desempenho varia entre grupos demográficos vem do Instituto Nacional de Padrões e Tecnologia dos EUA, que solicita que as empresas de reconhecimento facial enviem seus modelos. para serem testados e classificados entre si. A NEC e a Rank One Computing participaram em 2018, quando o NIST descobriu que os algoritmos testados eram coletivamente menos precisos para mulheres e pessoas de cor.
Mas a participação é voluntária, e os resultados do teste NIST não são um indicador perfeito do desempenho de um algoritmo. “Não sabemos qual versão [of the algorithm] está se desenrolando [by police] a qualquer momento e se foi o que o NIST tentou “, disse Garvie.” Na verdade, pode ser uma ferramenta diferente, mesmo que o provedor seja o mesmo. “
As regras que regem o reconhecimento facial pela polícia também são difíceis de analisar e abertas à interpretação por policiais individuais. No caso de Williams, os policiais contornaram uma política projetada para impedir uma prisão como a dele.
A política da polícia de Detroit proíbe explicitamente os policiais de fazerem prisões com base apenas em correspondências de reconhecimento facial. Mas depois que o programa DataWorks Plus identificou Williams, os policiais colocaram sua foto em uma matriz de fotos e a apresentaram a um segurança da loja, que não testemunhou o assalto e só tinha visto as mesmas imagens granuladas de vigilância. que a polícia tinha. O guarda removeu Williams da fila. Isso foi suficiente para um mandado de prisão.
“Muitos desses sistemas de reconhecimento facial não são auditados, o que significa que ninguém está verificando se eles estão sendo usados em conformidade com qualquer política existente”, disse Garvie. “Se ninguém se importa em verificar se é seguido ou não, é como se a política não existisse.” Há outras evidências que sugerem que o Departamento de Polícia de Detroit nem sempre segue suas próprias políticas: As estatísticas do departamento mostram que ele usou o reconhecimento facial para investigar crimes como incêndio criminoso e ameaças contra a polícia, depois de estabelecer uma regra que limita o uso da tecnologia ao crime violento e invasões domésticas.
Além dessas políticas internas do departamento, quase não existem leis que regem o uso policial do reconhecimento facial. A polícia pode realizar buscas legais em fotos de baixa qualidade, como no caso de Williams, além de esboços forenses e até de celebridades. Garvie disse que os legisladores ouviram pedidos de regulamentação e que houve “muito movimento” de legisladores e lobistas para elaborar legislação federal. A indústria apoiou uma regulamentação nacional uniforme, mais fácil de cumprir do que a regulamentação local incompatível.
O DataWorks Plus e a NEC não responderam aos pedidos de comentários, mas o CEO da Rank One, Brendan Klare, escreveu em um e-mail que o uso do algoritmo de reconhecimento facial pelo Departamento de Polícia de Detroit no caso Williams “continua ao contrário das práticas recomendadas padrão da indústria, e a Rank One se opõe sem reservas a qualquer uso indevido da tecnologia de reconhecimento facial, mesmo quando um partido candidato serve como fonte de provável causa de uma prisão “. Ele disse que “continuaria a trabalhar com grupos legislativos que buscam regulamentação do Congresso dos Estados Unidos sobre o uso do reconhecimento facial pela polícia”.
“Suspeito que tudo o que vemos no nível federal provavelmente seja menos rigoroso do que os regulamentos estaduais e locais”, disse Garvie, referindo-se às proibições diretas adotadas em cidades como São Francisco e Boston. “Qualquer coisa que não seja uma proibição será mais favorável à capacidade das empresas de continuar vendendo essa tecnologia”.
