A tecnologia de reconhecimento facial representa problemas muito mais complicados para a sociedade e os consumidores afetados por ela.
No início de 2020, poucos haviam ouvido falar da startup de reconhecimento facial ClearView AI. Depois de algumas semanas e de uma série de notícias negativas, a empresa provocou a ira de legisladores e ativistas da privacidade preocupados com que, como descreveu o jornal The New York Times*, ela "acabe com a privacidade como a conhecemos".
Mas quem é a Clearview AI? Como ela impulsionou uma tecnologia que está aí desde 1960? E por que esses avanços tecnológicos são tão perigosos para o consumidor geral?
A secreta startup de Nova York desenvolveu um sistema inovador de reconhecimento facial que produz correspondências mais precisas e de mais ângulos que as tecnologias anteriores. A empresa vende seu produto a departamentos policiais e outras empresas. O que realmente diferencia o aplicativo é a sua capacidade de fazer correspondências de fotos de pessoas não identificadas com as imagens que a Clearview IA capturou da internet. O banco de dados de 3 bilhões de imagens inclui fotos de postagens de pessoas no Facebook, Twitter e outros sites.
É fácil perceber o benefício disso. A empresa ressalta o sucesso de sua tecnologia na busca de assassinos, abusadores de menores e outros criminosos com o uso de vetores mais precisos e um número maior de imagens.
Mas também é muito fácil notar o lado negativo da tecnologia.
Defensores da privacidade dizem que o aumento do uso dessa ferramenta quebra regras não formais na área de tecnologia e privacidade. Por anos, empresas tecnológicas capazes de desenvolver aplicativos de reconhecimento facial, incluindo aí o Google, interromperam as atividades por razões éticas. Grandes cidades, como São Francisco, nos EUA, recusam-se a usá-la. Mas a Clearview AI seguiu em frente, vendendo a tecnologia para mais de 600 agências policiais sem passar por nenhum escrutínio público.
Pessoas levantam questões relacionadas à possibilidade de mau uso da tecnologia de reconhecimento facial da Clearview AI. A busca por criminosos perigosos é uma coisa. Mas e se um policial desonesto usar a combinação de imagens para bisbilhotar inimigos ou perseguir pessoas com quem queira se relacionar? E se um governo totalitário usar a tecnologia para pegar pesado com ativistas? Ou se um usuário final identificar alguém erroneamente e bloquear seu acesso a benefícios governamentais? Será que uma força policial poderia usar o reconhecimento facial para ganhar acesso às suas contas bancárias ou de e-mail?
"As possibilidades de uso dessa tecnologia são infinitas", afirmou Eric Goldman, co-diretor do Instituto de Direito de Alta Tecnologia da Universidade de Santa Clara, ao The New York Times*.
A Clearview AI diz que está na Primeira Emenda da constituição norte-americana o direito de uso de fotos que são postadas na web, porque seriam de domínio público. Mas, para a maioria das pessoas, isso passa dos limites.
Empresas de tecnologia, como a Clearview AI, dependem de regulações próprias. O Twitter, o YouTube e o Facebook já enviaram cartas à Clearview AI pedindo para que encerre suas atividades e apague todos os dados coletados. A Apple seguiu o exemplo e bloqueou o aplicativo da Clearview AI por violação das suas regras.
Os problemas da Clearview AI se intensificaram quando um vazamento de dados expôs uma lista de clientes da empresa. Apesar da alegação da empresa de que comercializa sua tecnologia apenas com agências policiais, a lista de 2,2 mil organizações em 27 países inclui entidades não governamentais, como o Walmart, Best Nuy, Bank of America e até a NBA.
O que os consumidores podem fazer a respeito de suas fotos que estão passando por esse processo de identificação? “Elas podem apagar todas as suas fotos do Facebook”, sugere Martin Hron, pesquisador sênior da Avast. “Mas se as imagens já foram registradas na web, elas ainda podem ser encontradas. É possível pedir ao Facebook para apagar seus dados. Só que, para isso, eles teriam que apagar toda a sua conta”, continua Hron.
Leis de privacidade* oferecem algum refúgio aos consumidores. A nova lei de privacidade da Califórnia, nos EUA, dá aos residentes do estado o direito de pedirem para ver os dados coletados pela Clearview AI sobre eles e obrigar que eles sejam excluídos do banco de dados da empresa. Residentes da União Europeia e no Brasil também podem pedir a exclusão de seus dados.
Esse caso pode ser um alerta. A tecnologia de reconhecimento facial representa problemas muito mais complicados para a sociedade e os consumidores afetados por ela. As ações tomadas pela Clearview AI, que vai escalando silenciosamente um sistema longe da opinião pública, ilustra como os governos precisam tomar medidas a respeito desse problema.
