Pontos de vista

A busca pela transparência e responsabilidade para humanos e máquinas

Garry Kasparov, 3 Julho 2017

Em sua publicação mais recente, Garry Kasparov examina a intersecção da privacidade, transparência, segurança, direitos humanos e instituições na era da IA.

Recentemente, tive a honra de ser um dos contemplados com o prêmio Champions of Freedom da Electronic Privacy Information Center (EPIC) de 2017. O gigante da tecnologia e privacidade, Bruce Schneier, estava entre os participantes, além dos meus colegas premiados, a advogada Carrie Goldberg, Ron Rivest e a juíza Patricia Wald. Todos estão fazendo trabalhos importantes para proteger a privacidade online e offline, em uma época em que parece que todos nós estamos sendo observados. O presidente e diretor executivo da EPIC, Marc Rotenberg, fez uma declaração poderosa sobre o papel vital e frequentemente não celebrado, que a transparência desempenha em uma democracia saudável.

Privacidade e transparência - 2 lados da moeda da segurança

Os usuários também estão preocupados e isso é um eufemismo. O termo “privacidade” atualmente tem 58.400.000 menções no Google News, o suficiente para valer a pena ressaltar que o termo tem significados diferentes para pessoas diferentes em áreas diferentes. Como a EPIC compreende bem, o problema não é apenas a privacidade do usuário final e o compartilhamento de informações demais nas mídias sociais. É também o que acontece nos níveis superiores do governo e corporações que têm os recursos para monitorar nossas ações.

Por isso, a privacidade e transparência são as duas faces da moeda da segurança. As empresas precisam saber algo sobre nós para fornecer os serviços que queremos. As agências do governo precisam monitorar para fornecer serviços de segurança essenciais. A questão eterna é como equilibrar essas necessidades com os direitos dos cidadãos de manter a privacidade e o controle sobre seus próprios dados, mesmo que nós produzamos mais a cada dia. A transparência é necessária para estabelecer limites e a responsabilidade para ultrapassá-los.

Esse processo contraditório faz parte dos freios e contrapesos em que se baseiam as repúblicas democráticas, especialmente nos Estados Unidos. A ideia é usar a pressão e o conflito para expor e encontrar as falhas no sistema, para iluminar e avançar gradualmente para o bem maior. É importante comparar isso com a natureza da vigilância e privacidade no mundo não livre. O método, motivo e missão por trás da coleta de dados e violações de privacidade não podem ser ignorados. Em regimes autoritários, a privacidade é apenas para os governantes, enquanto as pessoas não têm nenhuma. O comportamento do regime e de seus cidadãos mais poderosos são blindados do povo. A coleta de dados é usada para repressão e perseguição de cidadãos inocentes. As pessoas reais estão em perigo físico real, quando as proteções de privacidade falham em uma autocracia. Isso não é um exercício jurídico ou feito para proteger pessoas de cibercriminosos ou terroristas. Não poderia haver nenhuma organização como a EPIC na Rússia de Putin e, se houvesse, ela seria apenas outro ramo dos serviços de segurança.

“Monitorando os observadores”

Nosso desejo de manter a privacidade é inseparável de nossas preocupações sobre os fundamentos éticos de nossas instituições. Se acreditarmos que as motivações das autoridades são moralmente saudáveis e que operam em nosso interesse e nos interesses da sociedade, estamos mais à vontade para renunciar a um certo grau de privacidade. Você pode chamar isso de “observar os observadores”, aqueles que têm a tarefa de estabelecer protocolos de vigilância devem ser monitorados. Suas justificativas devem estar sujeitas à análise rigorosa e deve haver uma cadeia de responsabilidade. Idealmente, queremos um sistema que possibilite a coleta de informações necessárias para fins econômicos, de segurança, sociológicos e outras finalidades, mas que detenha a coleta arbitrária que não serve a uma necessidades específica e bem articulada. Os governos e corporações devem ser transparentes ao expressar suas metas e estratégias e os consumidores têm o dever de questionar aquelas com as quais são céticos.

Onde a IA se encaixa?

Eu, claro, estou sempre interessado em saber como a IA entraria em cena. Nós nos preocupamos com processos de tomada de decisão internos em órgãos ocultos do púbico em geral. Como podemos ter certeza de que uma corporação gigante, que decide quanta informação divulgar a governos estrangeiros, tem os melhores interesses dos usuários em mente? Se nos preocuparmos com isso (e com razão), devemos pensar cuidadosamente sobre como delegar tarefas similares à IA no futuro. Cada vez mais, os algoritmos tomam decisões com consequências pesadas para pessoas, empresas e sociedades. Com o campo do aprendizado de máquina crescendo em um ritmo acelerado, frequentemente nos encontraremos na posição de ter que avaliar os resultados de processos que são desconhecidos dos humanos. Uma rede neural que atinge um ponto final específico fez isso através de uma série de etapas que seus projetistas humanos não projetaram, mas através de autoprogramação. Essas tendências estão nos levando a um futuro de resultados imprevisíveis e cadeias de responsabilidade ainda menos claras para esses resultados.

Não é de se espantar, a transparência e responsabilidade de algoritmos é um campo cada vez maior na lei da privacidade. A EPIC lançou uma campanha nessa área. Se não conseguirmos rastrear os processos de uma IA e verificar como ela chegou a certa decisão, devemos, pelo menos, tornar transparentes todos os elementos do processo que foram controlados por humanos. Como argumentei acima, devemos exigir justificativas claras e morais das instituições humanas responsáveis pela vigilância ampla. O mesmo vale aqui: devemos exigir que a IA seja programada de acordo com os padrões mais rigorosos de transparência e ética.

Deve haver também uma estrutura para determinar a responsabilidade humana. Quem é o responsável quando uma torradeira conectada na Internet das Coisas une-se a uma botnet que desativa parte da internet? O fabricante é responsável por fabricar um produto não seguro? Assim como ao lidar com notícias falsas e outros sintomas de loucura da nossa tecnologia poderosa, temos trabalhar melhor para atribuir fontes e responsabilidade a pessoas, em vez de culpar a tecnologia.

Rumo a instituições mais confiáveis

Padrões do governo e indústria podem fazer uma grande diferença, no entanto. Após a cerimônia de premiação da EPIC em 5 de junho, tive uma breve conversa com o pioneiro da criptografia, Whit Diffie. Ele ficou consternado com o meu comentário de que as pessoas já deveriam saber melhor agora que não devem clicar em anexos de e-mail não seguros. Ele ressaltou que é ridículo que os usuários tenham a opção de fazer algo tão potencialmente destrutivo e ele tem razão. Edifícios modernos não têm janelas que abram mais que uma fenda para evitar acidentes e suicídios. Você nunca pode evitar completamente que as pessoas façam mal a si mesmas, mas há claramente muito o que pode ser feito para melhorar nossas estruturas digitais de maneira que possa ajudar a nos proteger de nós mesmos.

O elo crucial é as instituições, públicas de privadas, e se existe transparência e responsabilidade suficientes nelas para confiá-las nossa privacidade e outras formas de segurança. Quer estejamos pensando em um governo tomando decisões sobre programas de vigilância doméstica, ou uma empresa determinando como seus produtos coletarão informações dos usuários, se os valores e normas que regem a ação humana (ou da máquina) forem fortes o suficiente, podemos ser otimistas sobre atingir resultados favoráveis - mesmo que isso venha após anos de tentativa e erro. Se faltam instituições, nós nos tornamos vulneráveis a ameaças de atores nefastos ou tecnologias neutras que podem causar danos, seja acidentalmente ou com más intenções.

Para continuar a serem fortes, as instituições devem ser contínuas ao longo do tempo e isso inclui durante mudanças de liderança e partido. No panorama extremista atual, o último pode ser difícil de aceitar, mas tenho orgulho de ter sido um crítico sonoro da hipocrisia que resulta do extremismo político de ambos os lados do espectro político. Em meu discurso de aceitação na EPIC, enfatizei que se você aceita a vigilância e ordens executivas quando gosta do presidente, mas odeia os poderes de vigilância e ordens executivas quando não gosta do presidente, então você faz parte do problema! Criar um sistema que funciona para todos os seus membros exige compromisso de todos os lados. Uma estrutura completa com leis de transparência razoáveis e verificações robustas e equilibradas das autoridades de monitoramento nunca se materializará a partir de acusações e fuga, seja na privacidade total ou na vigilância desenfreada que não levam a lugar algum.

Enquanto isso, conforme trabalhamos para criar as instituições que modelarão nossas experiências e interações pessoais no mundo digital, devemos ser responsáveis como usuários individuais agindo dentro de um sistema imperfeito. O mundo online está longe de ser um mundo civilizado. Ele se parece mais com o velho oeste americano, onde as leis são mal estabelecidas e frequentemente abusadas. As proteções ideais não existem e, assim, cada consumidor precisa ter cuidado com as informações que compartilha e as medidas que toma para protegê-las. Cada um de nós deve continuar a pressionar por leis e proteções necessárias para a segurança coletiva, ao passo em que nos reconciliamos com a realidade atual e permanecemos vigilantes.

Os limites das responsabilidades ainda são fracos, por isso as empresas têm pouco incentivo para implantar proteções. Apesar de ser popular o ato de demonizar os “grandes governos” como uma estrada para o “Big Brother” e atacar a coleta de dados cada vez maior por algumas das maiores empresas do mundo, essas instituições gigantes são, na realidade, as mais responsáveis que temos. Empresas maiores com maior reconhecimento de nome e uma reputação a defender são obrigadas a se preocupar com a opinião pública e satisfação do usuário.

Da mesma maneira, muitos governos simplesmente não se importam em violar a privacidade dos seus cidadãos, enquanto aqueles que estão preocupados com sua posição no cenário mundial farão melhor. Proteja-se da melhor maneira que puder usando as ferramentas de melhor reputação disponíveis (os Colt 45s e rifles Winchester do arsenal digital do velho oeste), mas não pare de pressionar por uma mudança institucional mais ampla que levará a um mundo online mais seguro, justo e transparente para todos, espero que sem nenhum tiro disparado.