Segurança Cibernética

Por que a segurança é um desafio inigualável para a inteligência artificial?

Dr. Rajarshi Gupta, 8 Junho 2018

A inteligência artificial e a aprendizagem de máquina fornecem segurança aos usuários online e seus dispositivos de IOT.

Quando penso no desafio inigualável que os pesquisadores de inteligência artificial enfrentam na segurança, lembro-me de um trecho da série Harry Potter. No começo do Livro 6, o Ministro da Magia faz uma visita ao Primeiro Ministro Humano para avisá-lo sobre as maldades realizadas pelos bruxos das trevas. O Primeiro Ministro Humano está, compreensivamente, amedrontado e confuso. Frustrado, ele implora: “Pelo amor de Deus, vocês são magos! Vocês podem fazer mágicas! Com certeza, vocês podem resolver, bem, qualquer coisa!” O Ministro da Magia responde pragmaticamente, “o problema é que o outro lado também pode fazer mágicas”.

Hoje em dia, o frisson em torno da inteligência artificial faz com que ela quase pareça mágica. Embora o ritmo incrível do avanço da inteligência artificial tenha nos trazido grandes resultados em vídeo, áudio e PLN, nenhuma dessas situações práticas tenta fugir dos algoritmos. A segurança é o único domínio da inteligência artificial em que temos um oponente. Posso afirmar que esse é um desafio inigualável, pois o outro lado também pode usar inteligência artificial! Essa corrida armamentista entre o lado do bem e o das trevas continua a fascinar os profissionais de segurança.

Na verdade, a inteligência artificial usada para segurança defensiva precisa superar várias desvantagens inerentes. Primeiro, um bom sistema de inteligência artificial depende de um conjunto de dados grande e bem organizado, que é raro de obter em nossa área. Segundo, um sistema de aprendizagem de máquina pode aumentar sua precisão ao custo de alguns casos de identificações erradas (“falso positivo” no jargão técnico). Mas o mundo do software não perdoa os antivírus que bloqueiam incorretamente alguns bons aplicativos e exige que as taxas de falsos positivos sejam muito menores que 1%. Terceiro, algoritmos de aprendizagem de máquina sofisticados, como redes neurais, são frequentemente difíceis de serem explicados em termos que humanos possam compreender, embora o domínio da segurança exija que os resultados sejam “explicáveis”. Assim, a corrida armamentista desviou-se na direção oposta, pois é mais fácil aplicar a inteligência artificial para ataques do que para a defesa. Dessa forma, vale a pena analisar as áreas de segurança em que a inteligência artificial encontrou um uso eficaz, no passado, presente e futuro.

Passado: spam e golpes de cartão de crédito

Na última década, os servidores de email implantaram algoritmos de detecção de spam eficientes, de forma que é raro receber um spam atualmente. Essa é uma história bem-sucedida na implantação de inteligência artificial. No mundo financeiro, as empresas de cartão de crédito identificam automaticamente cobranças anômalas em seu cartão de crédito em uma fração de segundo e bloqueia atividades fraudulentas. Esses algoritmos de inteligência artificial são implantados no mundo todo e protegem milhões de clientes de cartão de crédito todos os dias.

Atual: detecção de malwares e bugs

Um campo que assiste a um sucesso considerável na implantação de inteligência artificial é a detecção de malwares na nuvem. Os principais provedores de segurança, como a Avast, implantam mecanismos de inteligência artificial que detectam consistentemente mais de 99% dos malwares que surgem. Na área dos dispositivos móveis, a Google Play e a Apple AppStore implantam mecanismos eficazes de inteligência artificial baseada em nuvem para bloquear malwares. De fato, o modelo de loja de aplicativos centralizada tem sido bem-sucedido na proteção de usuários móveis contra malwares. “Fuzzing”, ou detecção automática de bugs de segurança em software, também presencia uma ampla utilização de técnicas de aprendizado de máquina. Com a explosão de linhas de código escritas por dia, essas ferramentas automatizadas são o único método realista para permitir que as empresas detectem novos bugs. Além disso, elas podem identificar com rapidez e confiabilidade outros exemplos do mesmo bug, assim que um novo bug é detectado.

Raro: análise de comportamento em dispositivo

Dispositivos vêm se tornando eficientes e poderosos já há algum tempo. Assim, agora é possível implantar um pipeline completo de aprendizagem de máquina (observação > extração de recursos > análise) no dispositivo. Ao colocar o cérebro no próprio dispositivo, podemos garantir que essa camada de proteção seja onipresente, possa ver cada ação que um programa maligno executa e avaliá-lo em tempo real. O principal desafio aqui é a sobrecarga: não só precisamos manter um mecanismo de aprendizagem de máquina em execução o tempo todo, como também observar um número de eventos suficiente para tomar uma decisão. A solução é executar um modelo supereficiente, mas superficial (poucos recursos), constantemente, iniciando um modelo mais preciso somente quando for necessário. O modelo exato também pode ser sensível ao contexto, ao passo que o mecanismo de aprendizagem de máquina pode incorporar o contexto imediato do dispositivo em sua tomada de decisão. Essa é uma área promissora com resultados interessantes, mas ainda há muito trabalho a ser feito.

Novidade: segurança de rede para IoTs

Essa é a nova fronteira na segurança, com milhões de dispositivos de IoT conectados em conjunto e acessíveis através da internet. Muitos desses dispositivos têm softwares antigos que raramente, ou nunca, são corrigidos. Além disso, esses dispositivos não permitem que sejam instalados softwares de segurança neles. Portanto, o desafio do provedor de segurança é proteger esses dispositivos vulneráveis, mas só pode “observá-los” na rede! Essa é definitivamente uma solicitação difícil, mas também uma excelente oportunidade em que a inteligência artificial pode oferecer o máximo de benefício. O crucial é que a maioria dos dispositivos de IoT têm um alcance muito limitado de ações e, assim, são fáceis de modelar. Dessa forma, as técnicas eficientes de detecção de anomalias implantadas na rede ajudarão a proteger esses dispositivos.

Como você pode ver, a segurança é um desafio inigualável para a inteligência artificial, pois, esse é o único caso verdadeiro com um oponente, com os cibercriminosos tendo à sua disposição as mesmas ferramentas de inteligência artificial. Assim, a área assistiu a sucessos significativos, como prevenção de spam e fraude de cartão de crédito. A detecção de malwares também é uma arte avançada em que as taxas de sucesso são impressionantes (>99%). Aprendizagem de máquina no dispositivo é raro, mas demonstrou um potencial significativo. Finalmente, a segurança e a rede de IoT é a próxima grande fronteira, onde a inteligência artificial é a melhor aposta de defesa.