Esta semana, King County, Washington, se tornou o primeiro condado dos Estados Unidos a proibir o escritório do xerife e outras agências de usar tecnologia de reconhecimento facial em quase todas as circunstâncias.
A nova medida vai contra a leniente lei de reconhecimento facial do estado de Washington, que foi redigida por um funcionário da Microsoft e aprovada no ano passado, e representa um desafio para um conjunto emergente de tecnologias na área metropolitana de Seattle, sede da Microsoft e da Amazon, duas delas. Gigantes da tecnologia que vendem software de reconhecimento facial.
A situação no estado de Washington reflete um debate nacional mais amplo. As autoridades policiais confiam cada vez mais no reconhecimento facial, que pode ajudar a identificar os suspeitos. No início deste ano, o FBI o usou para identificar insurgentes no Capitólio dos Estados Unidos em 6 de janeiro. Mas, à medida que seu uso se espalha, há uma reação crescente dos críticos, que veem a prática como uma invasão de privacidade, uma expansão do poder policial. e predisposto contra pessoas de cor.
Na ausência de regulamentação federal de privacidade, alguns estados e localidades estão entrando em ação. King County se junta a mais de uma dúzia de cidades, incluindo San Francisco e Boston, e o estado de Vermont, que já proibiu a polícia e outras agências de usar o reconhecimento facial. Os especialistas esperam que mais pessoas entrem na lista.
A proibição do condado de King
A lei do condado de King, que se aplica apenas a agências de todo o condado, proíbe o governo de adquirir tecnologia de reconhecimento facial ou usar tais dados biométricos. A polícia do condado ainda pode participar do programa nacional de localização de crianças desaparecidas, que se baseia no reconhecimento facial.
O condado de King não estava usando nenhuma tecnologia de reconhecimento facial e tanto a Amazon quanto a Microsoft interromperam as vendas de sua tecnologia para departamentos de polícia no verão passado após o assassinato de George Floyd pela polícia e protestos em todo o país contra os maus-tratos de negros americanos nas mãos da polícia.
A IBM e outros também pararam de vender tecnologia de reconhecimento facial para agências de aplicação da lei, mas outros continuam. No início deste ano, o BuzzFeed News descobriu que mais de 7.000 pessoas de quase 2.000 agências governamentais usaram ou testaram o software de reconhecimento facial Clearview AI.
A lei incipiente do estado de Washington permite a tecnologia de reconhecimento facial, desde que seus sistemas de inteligência artificial estejam sujeitos a uma “revisão humana significativa”, uma cláusula amplamente criticada pelos defensores das liberdades civis.
“É um projeto de lei apoiado pela indústria que pretende colocar salvaguardas em torno do uso de tecnologia de reconhecimento facial, mas na verdade legitima a expansão da infraestrutura de tecnologia de reconhecimento facial vendida por empresas de tecnologia”, Jennifer Lee, gerente de projetos de liberdade e tecnologia do Washington ACLU, disse em uma entrevista.
Privacidade individual versus segurança pública
O reconhecimento facial é provavelmente mais difundido do que o esperado nos Estados Unidos. De acordo com o Centro da Escola de Direito de Georgetown para Privacidade e Tecnologia, em 2016, cerca de metade de todos os adultos americanos tinham suas fotos incluídas em um banco de dados de reconhecimento facial de crimes.
Embora a tecnologia de reconhecimento facial tenha sido usada para capturar criminosos como o atirador em massa do jornal Capital Gazette, ela também traz o risco de sobrealcance e falsos positivos. Nos últimos anos, houve vários relatos de identificação falsa de criminosos baseados em tecnologia, em que negros foram presos indevidamente.
A Electronic Frontier Foundation, um importante grupo de direitos digitais, afirma apoiar a abolição completa da vigilância governamental por meio do reconhecimento facial. Adam Schwartz, advogado sênior da fundação, disse que seu uso é discriminatório, uma “invasão orwelliana de privacidade” e impede as pessoas de participarem de protestos públicos.
“Existem algumas tecnologias de vigilância que acreditamos que os requisitos amplos e a transparência sobre como é usada podem ser suficientes, mas a vigilância facial é tão perigosa que os governos não deveriam usá-la”, disse Schwartz ao Quartz.
Daniel Castro, que dirige o Centro de Inovação de Dados da Fundação de Tecnologia da Informação e Inovação (ITIF), disse que a lei do condado de King é “baseada na desinformação” sobre o quão tendenciosos são esses sistemas. Castro disse que “a evidência é incontestável de que os sistemas de melhor desempenho não são racialmente preconceituosos”.
Um estudo de 2019 do Instituto Nacional de Padrões e Tecnologia (NIST), uma agência governamental, encontrou diferenças significativas entre vários algoritmos testados. O NIST concluiu que algoritmos desenvolvidos nos Estados Unidos tiveram altas taxas de falsos positivos para asiáticos, afro-americanos e nativos americanos.
Mas Castro diz que há uma “grande diferença” entre os algoritmos de melhor e pior desempenho, dizendo que a proibição de King County torna “mais difícil para o governo local usar a tecnologia do dia-a-dia para manter seus cidadãos e trabalhadores seguros”.
Esperando pelo Congresso
A pressão está aumentando para controlar os piores aspectos do uso governamental do reconhecimento facial ou para bani-lo completamente.
Na quinta-feira, uma coalizão de grupos de liberdades civis, incluindo a ACLU e a EFF, divulgou um comunicado conjunto dizendo que, mesmo com as melhorias na tecnologia de reconhecimento facial, ainda é fundamentalmente falho. O grupo, que também inclui a NAACP e o Projeto Inocência, está pedindo uma “proibição ou moratória no uso de tecnologia pela aplicação da lei”. A carta também exortou os legisladores a não se anteciparem às proibições estaduais e locais por meio de qualquer legislação federal.
O último Congresso apresentou uma série de projetos de lei, incluindo o Ato de Justiça da Polícia de George Floyd e o Ato de Reconhecimento Facial Avançado, que teriam reprimido o reconhecimento facial, mas nenhum foi adotado.
Brian Hengesbaugh, que preside a Unidade de Negócios Global de Privacidade e Segurança de Dados do escritório de advocacia Baker McKenzie, espera um “incêndio florestal” nas regulamentações de privacidade nos próximos anos. E quaisquer futuras leis de privacidade federais e estaduais provavelmente incluiriam requisitos para entidades públicas e privadas que capturam dados biométricos, disse ele. Em muitas das jurisdições dos Estados Unidos que regulamentam a coleta de dados biométricos, e de acordo com os regulamentos GDPR da UE, as empresas privadas devem obter o consentimento expresso das pessoas que rastreiam, caso contrário, poderão enfrentar uma ação judicial. Isso não é realmente viável em um contexto de aplicação da lei.
Para as jurisdições locais que estão considerando o que fazer com o reconhecimento facial, a questão é mais ampla: essa tecnologia tem lugar na aplicação da lei ou devemos evitá-la antes que vá longe demais?
