Sistemas de vigilância com reconhecimento facial: escrutínio e reação das gigantes de tecnologia

Em artigo publicado em abril último intitulado “Um Festival de Incerteza”, o pensador francês Edgar Morin, 99 anos em 8 de julho, nos oferece uma comovente e envolvente reflexão sobre a crise da covid-19. Dentre os temas abordados está a ciência que, segundo ele, “não tem um repertório de verdades absolutas e suas teorias são biodegradáveis sob efeito de novas descobertas”. Morin propõe um debate sobre o antagonismo entre prudência e urgência, e seus riscos intrínsecos, alertando para os processos contraditórios que surgem em situações de crise: um estimula a imaginação e a criatividade em busca de novas soluções, e outro se apega ao passado tentando minar o novo. Pela sua natureza disruptiva, e também por estar em seus primórdios com limitações de várias naturezas, as tecnologias de inteligência artificial (IA) estão sob escrutínio intenso, dentre elas os sistemas de vigilância com reconhecimento facial.

As técnicas de processamento de imagens (redes neurais/deep learning) são aplicadas desde a identificação de imagens captadas por drones e satélites da superfície da Terra até imagens de tomografia para diagnóstico de contaminação por covid-19, passando pela detecção de pragas na agricultura, monitoramento e personalização no trato com o gado, além do uso nas plataformas online, redes sociais e aplicativos. O mais controverso, contudo, tem sido o uso nos sistemas de vigilância. Segundo o Ada Lovelace Institute – órgão independente cuja missão é garantir que a IA funcione a favor da sociedade -, testes da tecnologia de reconhecimento facial em contextos de policiamento no Reino Unido relataram mais de 90% de ocorrências incorretas.