Reconhecimento facial na videovigilância: um ano de controvérsia

Existe uma tendência mais ou menos uniforme no que toca à adoção de novas tecnologias com um certo nível de ramificações na vida dos cidadãos: uma forte resistência inicial do público por suspeita de que estas venham a infringir os direitos dos cidadãos; um período de debate dos benefícios e riscos; e a eventual adoção da tecnologia com níveis variáveis de salvaguardas regulamentares. O reconhecimento facial está a fugir à regra; os próprios governos estão a introduzir proibições – preventivas ou definitivas – ainda nos estágios iniciais.

O reconhecimento facial apresenta-se como uma das vertentes mais promissoras da inteligência artificial, com aplicações desde autenticação até à segurança pública. Os usos mais prosaicos e focalizados, como a autenticação para pagamentos automáticos e alternativa ao cartão de embarque, têm-se desenvolvido sem grande impedimento para lá das limitações tecnológicas.

As aplicações de segurança têm sido recebidas com controvérsia em vários países; ao longo do último ano, países, estados e cidades em todo o mundo baniram o uso do reconhecimento facial em aplicações de videovigilância.

Para além da óbvia questão do potencial de violação de direitos de privacidade, as objeções prendem-se com a conjunção de dois fatores: as limitações das soluções disponíveis no mercado e as ramificações que erros de identificação podem ter em algumas das aplicações possíveis destas tecnologias.

Riscos e limitações

De forma a poder detetar padrões – neste caso, traços faciais – um algoritmo precisa de uma base de referência na qual estes padrões estejam previamente identificados. Este é um ponto de contenção muito discutido por especialistas de inteligência artificial e ética no que toca ao tratamento de dados pessoais, devido ao enviesamento demográfico encotrado quase universalmente nestas bases de dados. A sobrerrepresentação de determinados grupos demográficos causa enviesamento na deteção de padrões, levando a conclusões erróneas relativas a indivíduos de grupos subrepresentados.

Entre os estudos que comprovam esta falha inclui-se uma investigação federal do National Institute of Standards and Technology dos EUA que determinou que a maioria dos sistemas de reconhecimento facial disponíveis no mercado têm uma taxa de erro de dez a cem vezes superior na identificação de pessoas afroamericanas e asiáticas do que caucasianas, bem como maior dificuldade na identificação de mulheres e idosos.

De São Francisco à UE

A primeira de muitas proibições foi em maio de 2019, quando São Francisco baniu o uso de reconhecimento facial por parte da polícia e outras agências governamentais, num momento em que esta aplicação da tecnologia começou a ganhar ímpeto.

Dois meses depois seguiu-se Bruxelas, onde os planos para a instalação, por parte da polícia, de um sistema de reconhecimento facial via CCTV no aeroporto de Zaventem foram recebidos com controvérsia e eventualmente recusados devido à falta de uma “base legal” que permitisse regular este tipo de aplicações. Não faltam exemplos a nível global – apesar de se manifestarem mais no Ocidente – movimento que culminou finalmente na possibilidade, divulgada em janeiro, da Comissão Europeia proibir o uso de reconhecimento facial em espaços públicos durante um período de cinco anos, com vista a garantir a consolidação tecnológica, criação de guidelines e avaliação de riscos. Desde então, a Comissão Europeia não prestou declarações oficiais sobre a potencial proibição, tendo apenas publicado um whitepaper no qual refere os riscos e boas-práticas na aplicação de inteligência artificial, com breves menções do reconhecimento facial.

No contexto do RGPD

As restrições ao uso de reconhecimento facial prendem-se essencialmente com as limitações impostas pelo RGPD sobre a videovigilância, tratamento de dados biométricos e decisões automatizadas sobre dados pessoais.

Em termos da videovigilância no geral, as condições são relativamente simples, em linha com os princípios gerais do RGPD: a captação de imagens de vídeo deve ser limitada ao mínimo possível sem comprometer o propósito da aplicação, o seu uso deve ser limitado ao propósito original, os dados não devem retidos mais tempo do que necessário, e devem ser garantidas as medidas de cibersegurança necessárias no seu tratamento, gestão e armazenamento. A captação de imagens em instalações como escolas é estritamente limitada ao seu perímetro.

Quanto ao reconhecimento facial em particular, o artigo 9.º do RGPD proíbe o tratamento de dados biométricos para “identificar uma pessoa de forma inequívoca” sem o consentimento explícito do titular, exceto em situações nas quais tal seja justificado por motivos de interesse público, onde o tratamento deve ser “proporcional ao seu propósito”.

Num aspeto, o RGPD apresenta salvaguardas inequívocas contra muitos dos riscos associados ao uso de reconhecimento facial. Isto vai implicar já algum nível de limitação do uso desta tecnologia em situações como investigações criminais e mesmo o controlo de assiduidade.