Pontos de vista

O Grande Irmão está te observando. E te escutando.

Garry Kasparov, 27 Setembro 2018

Garry Kasparov fala sobre o panorama tecnológico em rápida transformação e sua relevância para a preservação da democracia.

Estamos cercados por tecnologia. Nossos dispositivos estão sempre conectados e, assim, todos também estamos. Deslizamos pelas notificações em nossos smartphones de manhã, ouvimos podcasts quando vamos ao trabalho, gastamos um dia inteiro na frente de uma tela de computador e, depois, completamos nosso ritual de final de dia assistindo os últimos lançamentos dos nossos serviços de streaming favoritos.

Isso pode parecer um ritual antigo, o que destaca como nos acostumamos rapidamente à nova tecnologia e a damos como certa. Fora o trabalho na frente do computador, as outras atividades mal existiam há uma década. E essas são apenas as conexões com que interagimos diretamente. Nossos telefones, carros e lares possuem incontáveis atividades em segundo plano, transformando aspectos ainda ocultos de nossas vidas em dados.

É importante observar a rapidez com que nos tornamos complacentes com coisas que pareceriam ficção científica há uma geração. Precisamos pensar nas consequências disso no futuro, se esse processo ocorrer com ainda mais formas pessoais de tecnologia. Apesar da onipresença das ferramentas digitais em nossas vidas, muitas novas variantes estão apenas começando a criar raízes e precisam evoluir muito para se tornarem partes perfeitamente integradas da nossa rotina. Por exemplo, o assistente virtual da Amazon, Alexa. Quase todos os milhões de clientes satisfeitos do dispositivo já enfrentaram uma resposta sem sentido a uma demanda, um compromisso de agenda ou mensagem de email destruídos, ou mesmo uma risada inquietante relatada por muitos usuários. Esses defeitos criam histórias engraçadas e tendem a reduzir (erroneamente) as preocupações com o potencial de vigilância desses dispositivos.

Um dos campos com avanços mais rápidos em tecnologia é o de coleta e análise de dados biométricos, que comecei a discutir na minha publicação anterior. Como observei, inovações como kits de teste genético domésticos não são ainda totalmente confiáveis, devido ao estado atual das pesquisas. No entanto, as empresas e os governos, nos Estados Unidos e outros países, já estão implantando sistemas de vigilância biométrica em grande escala e esses sistemas ficarão prontos para funcionar quando a tecnologia avançar. As preocupações com a privacidade pessoal que escrevi anteriormente não são nada em comparação com a ameaça da coleta de dados biométricos centralizados sobre trabalhadores e cidadãos. Só porque essas tecnologias estão nos primeiros estágios de desenvolvimento e sejam primitivas, não significa que devemos descartar perigos futuros. Devemos estar preparados para enfrentar os desafios da vigilância biométrica de toda a população, antes que isso se torne realidade.

Ainda falando sobre a Amazon, a empresa patenteou recentemente um relógio inteligente, capaz de monitorar o movimento das mãos dos funcionários. O dispositivo ainda é apenas um conceito e pode ser que nunca seja utilizado no local de trabalho, mas é importante explorar os perigos éticos que ele representa. Junto com a cultura de eficiência brutal nos armazéns de estoque da Amazon (sete funcionários morreram no trabalho desde 2013), é fácil perceber como tal dispositivo pode se tornar abusivo, forçando trabalhadores a níveis desumanos de produtividade. Isso evoca as cenas de fábrica do filme Tempos Modernos, de Charlie Chaplin, em que o ser humano se torna servo da máquina. E, se uma máquina pode acompanhar tão bem como um trabalho é feito, ela provavelmente deveria estar fazendo esse trabalho. É melhor ser substituído por um robô do que ser tratado como um.

O Walmart, um grande concorrente, está trabalhando no momento em um sistema de vigilância de áudio que escutará a conversa dos caixas com os clientes na finalização da compra. Ele poderá julgar o desempenho dependendo da eficiência ao empacotar as compras, na velocidade da fila e até mesmo no conteúdo das conversas. Esses tipos de desenvolvimentos fornecem às empresas um grande poder sobre os seus funcionários. Embora tais ferramentas possam ser usadas para melhorar a produtividade de maneira que pode beneficiar tanto funcionários quanto empregadores, elas também podem nos conduzir a um território distópico. Seus direitos de privacidade e autonomia deixam de existir no momento que você bate seu cartão de ponto? O nível de estresse provocado por saber que você está sob vigilância permanente é difícil de imaginar. Pelo menos para alguém que nunca viveu em um estado totalitário em que tal exame era rotineiro.

Estamos assistindo a uma expansão similar no monitoramento de governos, com a China como exemplo mais proeminente. Novamente, um pouco da tecnologia utilizada é, de certa forma, rudimentar. Um jornalista que visitou recentemente a cidade central de Zhengzhou teve a chance de experimentar um par de óculos de reconhecimento facial usado pela polícia e concluiu que eles não eram muito úteis. Os óculos, conectados a uma pequena câmera que é conectada com um cabo em um minicomputador, comparam fotos de pessoas com um banco de dados de imagens, nomes e números de identidade armazenados. O processo em si é desajeitado e, combinado com o fato de as pessoas evitarem os dispositivos (o que é muito compreensível), o efeito geral é desapontador. Mas imagine o que aconteceria com pequenos avanços em velocidade, precisão e facilidade de uso. (Isso não se limita a faces humanas, claro. A polícia em muitos países usa rotineiramente leitores de placas que examinam e registram automaticamente cada carro ao alcance).

Devemos considerar também os problemas de propriedade. As empresas são proprietárias de tudo que os funcionários fazem em seus computadores de trabalho, mas elas têm direito a tudo que é dito em voz alta no escritório? Os dados biométricos são a próxima fronteira na batalha por privacidade. As empresas podem exigir o uso de dados de reconhecimento de voz para monitorar funcionários? Os governos podem usar software de reconhecimento facial de maneira a não violar direitos individuais? Quem tem acesso aos dados? Por quanto tempo eles são armazenados e por quem?

Ao mesmo tempo em que ponderamos as respostas a essas perguntas, devemos ser realistas sobre o que podemos e o que não podemos legislar. Legislações, como a Regulação Geral de Proteção de Dados, que entrou em vigor recentemente na Europa e que eu abordei aqui, são, sem dúvida, importantes. Expandir a estrutura para um campo de atuação internacional aumentará ainda mais a transparência e responsabilidade. Ao mesmo tempo, o campo digital está mudando rapidamente e se torna impossível fazer esse jogo de “gato e rato” toda vez que uma nova ferramenta aparece no mercado.

Além dos regulamentos específicos, então, é crucial apoiar uma estrutura internacional forte baseada em valores compartilhados e instituições para servir como precedentes jurídicos e éticos. Alianças robustas de nações democráticas são o melhor bastião contra governos autoritários, que são os que têm maiores chances de usar ferramentas digitais para vigiar seus cidadãos e, mais importante, usar esse monitoramento para perseguir e reprimir seus cidadãos.

A única maneira realmente eficaz de combater este tipo de controle Orwelliano, que é tentador para empresas privadas e instituições públicas, é reforçar os governos e instituições democráticas. A estrutura e retórica das instituições internacionais devem refletir o panorama tecnológico que está em rápida mudança, e sua relevância para a preservação da democracia. Em sua cúpula recente em Bruxelas, os aliados da OTAN estabeleceram um novo Centro de Operações do Ciberespaço que pode aproveitar os recursos cibernéticos individuais dos estados membros para proteção mútua. Palavras e forças tarefas devem ser apoiadas por ações, por isso, vamos ver se isso marca uma mudança significativa. Mas, de qualquer forma, isso cria uma atmosfera favorável. Essa ação significa que as nações democráticas do mundo estão unidas para reconhecer ameaças tecnológicas e trabalharão juntas para garantir que essa tecnologia seja usada para promover a liberdade, inovação e florescimento humano e não para impedi-los.