Actualités Avast

10 moments clés de la conférence CyberSec & AI Prague

Jeff Elder, 21 novembre 2019

Avast et l'Université technique de Prague ont abordé plusieurs sujets, allant des hallucinations de l'intelligence artificielle (IA) aux algorithmes adverses de la lutte machine vs. machine

Le mois dernier, un nouveau type de conférence a réuni à Prague des intervenants originaires de 11 pays différents. Au cours de la CyberSec & AI Prague, d’éminents conférenciers universitaires et des étudiants ont présenté leurs idées. Parmi les sujets abordés, figurent l’IA adverse (une des priorités des experts du secteur) et l’idée que l’IA peut rendre la société plus égalitaire (« l’IA pour le peuple »).

De nombreux moments de cette conférence co-sponsorisée par Avast et l’Université technique de Prague (CTU) nous ont marqués, comme le fait que l’IA peut avoir des hallucinations ou qu’on peut expliquer l’IA avec des Pokémons. Voici un récapitulatif des 10 moments les plus mémorables.

cybersecmichal

1. Avec son discours d’ouverture, Michal Pechoucek (en photo ci-dessus), le nouveau directeur technique d’Avast et professeur de longue date à la CTU, a placé la barre haute. L’IA est souvent perçue comme une menace pour l’humanité. Il faut l’apprivoiser, mais elle peut aussi nous protéger, suggère-t-il. « Comment l’IA peut-elle nous aider à vivre en liberté et en sécurité ? Nous pouvons réfléchir à cette question. » Découvrez pourquoi il pense que l’IA peut contribuer au bien.

CyberSecsadia

2. Certaines des prouesses techniques de l’IA proviennent d’algorithmes adverses, qui apprennent en se faisant concurrence. De nos jours, cette menace pèse-t-elle vraiment sur la cybersécurité ? « Les attaques adverses sur les détecteurs de malwares du secteur de la cybersécurité peuvent sembler théoriques, mais en réalité, elles se produisent déjà sur le terrain », a déclaré Sadia Afroz, chercheure en IA chez Avast (photo ci-dessus).

Cybersecitaly

3. L'IA peut-elle avoir des hallucinations ? Dans sa présentation, Battista Biggio (photo ci-dessus), professeur adjoint à l'Université de Cagliari en Italie, a déclaré qu'il avait été démontré que l'IA pilotée par des données et les modèles de machine learning souffraient d'hallucinations (ou « exemples contradictoires »). Elles apparaissent sous forme d'images, de textes ou de sons qui ne sont pas là et qui rejettent leur logique.

4. Alex Halderman (voir la vidéo ci-dessus), professeur d’informatique à l’Université du Michigan, a mené des recherches sur le piratage électoral dans le monde entier. Il a déclaré qu’il aurait suffi de 30 765 voix pour changer les résultats de l’élection présidentielle des États-Unis de 2016. Sa solution pour renforcer la sécurité des élections est surprenante : des bulletins de vote en papier.

5. Une solution technologique pourrait-elle résoudre le problème mondial de la sécurité électorale ? Un participant à la conférence a demandé à Halderman si la blockchain (chaîne de blocs) pouvait empêcher le piratage électoral. Ce à quoi il a répondu : « La technologie blockchain empêche le vol de votes et le système Bitcoin empêche le vol d’argent. »

6. Combien de sites Internet Avast analyse-t-il ? L’Agent Web d’Avast, qui détecte les attaques de phishing, reçoit environ 70 000 URL par seconde, a déclaré le directeur de l’IA chez Avast, Rajarshi Gupta. Dans la vidéo ci-dessus, il explique comment l'IA contribue à ce processus.

CyberSecpokemon

7. Lorenzo Cavallaro (photo ci-dessus) de l'Université de Londres, a prouvé qu'il était possible d’expliquer des sujets complexes sur la cybersécurité de l'IA à l'aide de Pokémons. Découvrez tous les sujets de présentations des chercheurs ici.

cybersecpanel

Panel Cybersec & AI Prague avec Nicolas Papernot (gauche), Rachel Greenstadt, Battista Biggio, Rajarshi Gupta et le modérateur Dave Gershgorn.

8. La journée s’est clôturée par un panel intitulé « AI pour le meilleur et pour le pire » animé par le journaliste Dave Gershgorn et présentant des universitaires de trois pays ainsi que Rajarshi Gupta d’Avast. « Le problème, ce ne sont pas les algorithmes. Ils ne sont pas mauvais. C’est à notre communauté de construire des modèles et de les former correctement », a déclaré Gupta.

cybersecpws

9. Qu'est-ce qui a permis au botnet Mirai de prendre le contrôle de plus de 200 000 appareils connectés en 2016 ? Des mots de passe faibles, a déclaré Zakir Durumeric, chercheur en sécurité à l'Université de Stanford, qui a montré les exemples illustrés ci-dessus. En savoir plus sur les recherches de Durumeric sur l’Internet des Objets (IoT) avec Avast.

10. Cet événement de premier plan en matière de cybersécurité de l’IA sera réitéré l’an prochain à Prague. « Nous réorganiserons cet événement l’an prochain », a déclaré Pechoucek au public. Voudrez-vous y participer ? Apprenez-en plus sur Cybersecprague.ai.