Actualités Avast

Prédictions 2019 (partie 3) : le monde de l'IA

Threat Intelligence Team, 5 février 2019

Préparez-vous pour 2019 avec ces prévisions sur l'IA des experts d'Avast.

Dans notre première partie, nous avons discuté de l'Internet des Objets en 2019. Dans notre deuxième partie, nous nous sommes concentrés sur les menaces mobiles au cours de la nouvelle année. Et maintenant, dans la dernière partie de notre série en trois volets sur les prévisions de cybersécurité pour 2019, nous examinons comment l 'intelligence artificielle (IA) façonnera les menaces de l'année à venir.

Aucun domaine de la sécurité n'est plus mystérieux et opaque que celui de l'IA. Nous observons maintenant de plus en plus d'algorithmes d'intelligence artificielle adverse qui luttent contre les algorithmes d'intelligence artificielle de sécurité. Avast a beaucoup investi dans le développement d'algorithmes d'intelligence artificielle pour combattre les forces de l'intelligence artificielle adverse et notre apprentissage en la matière nous a amenés à faire des recherches sur des éléments dont nous connaissions l'existence mais qui ne sont pas encore totalement connus ou compris. L'un de ces nouveaux domaines d'intérêt est une catégorie d'attaques connue sous le nom de DeepAttacks.

L'ère des DeepAttacks

Nous définissons par « DeepAttacks » tout « contenu malveillant généré automatiquement par des algorithmes d'IA » et il s'agit d'une catégorie d'attaques que nous nous attendons à voir de plus en plus fréquemment.

En 2018, nous avons vu de nombreux exemples où les chercheurs ont utilisé des algorithmes d'IA adverse pour tromper les humains. C'est le cas, par exemple, de la fausse vidéo de Barack Obama créée par Buzzfeed, dans laquelle un montage fait prononcer de façon convaincante à l'ancien président un discours insensé. C'est ce qu'on appelle communément un « deepfake », une technique qui utilise l'IA pour tromper les gens. Nous avons également vu des exemples d'IA adverse trompant même les algorithmes de détection d'objets les plus intelligents, comme dans cet exemple où on a fait croire à un algorithme qu'un panneau stop était un panneau de limitation à 45 mph. Mais les exemples réels de « fake news » générées par une IA sont rares et nous devons donc nous estimer bien chanceux.

Des DeepAttacks peuvent aussi se manifester à plus petite échelle sous la forme de fausses URL ou pages Web HTML. Ces attaques peuvent être utilisées pour générer du faux trafic réseau dans les botnets. En 2019, nous nous attendons à voir les DeepAttacks se déployer plus fréquemment pour tenter d'échapper à la fois à la vigilance humaine et aux défenses intelligentes. Nous travaillons également dur pour affiner les détections spéciales des DeepAttacks, afin de les identifier et de les bloquer avant qu'elles n'atteignent des proportions plus importantes.

Attaques intelligentes sur les réseaux domestiques

Les attaquants disposent désormais d'algorithmes sophistiqués permettant d'identifier et de cibler les propriétaires ayant des caractéristiques de profil spécifiques (par exemple, de nombreux appareils Apple ou au moins 10 appareils vulnérables, etc). Ils peuvent ensuite automatiser l'étape suivante de l'attaque ciblée vers un appareil cible souhaité (par exemple, un appareil adapté au minage de crypto-monnaie, en utilisant des crackers de mots de passe qui s'adaptent à ces types d'appareils spécifiques). Ainsi, toute la chaîne malveillante peut être automatisée.

L'IA contre le clone phishing

Nous prédisons que l'intelligence artificielle jouera un rôle important pour mettre fin à la pratique connue sous le nom de clone phishing, où un attaquant crée une réplique presque identique d'un message légitime pour amener la victime à croire qu'il est réel. L'e-mail est envoyé à partir d'une adresse ressemblant à celle de l'expéditeur légitime et le corps du message reprend celui d'un message précédent. La seule différence est que la pièce jointe ou le lien dans le message a été échangé avec un élément malveillant.

Nous prévoyons que l'IA deviendra très efficace pour détecter les sites Web de phishing à courte durée de vie associés à ces attaques de clone phishing. L'IA peut réagir plus rapidement que les algorithmes traditionnels de deux façons : premièrement, en identifiant avec précision les domaines nouveaux et suspects et, deuxièmement, en utilisant des algorithmes rapides de détection visuelle pour repérer la mise en page des sites de phishing et identifier les sites frauduleux.  Par ailleurs, l'intelligence artificielle apprend au fil du temps, suit les tendances et surveille les progrès des malwares.

Malheureusement, les techniques de phishing par harponnage continueront à fonctionner car les pirates consacrent du temps et de l'argent à la collecte d'informations spécifiques à la cible, comme la création d'e-mails censés provenir de l'école de votre enfant, du PDG de votre entreprise, etc. Dans ces cas, comme dans beaucoup d'autres, un pirate très motivé trouvera souvent un moyen d'entrer dans votre appareil, et c'est le rôle d'autres technologies de détection, comme les moteurs comportementaux, d'arrêter cette menace.

Fin des captchas texte

Pendant plus d'une décennie, les humains ont prouvé leur humanité sur le Web en lisant des lettres et en les transcrivant correctement. Il s'agissait de l'outil le plus efficace à l'époque pour prouver que vous n'étiez pas un robot.

Eh bien, ce n'est plus le cas.

Les premiers travaux réalisés par Vicarious à la fin de l'année 2017 ont montré que les captchas (même complexes) peuvent être devinés par des algorithmes. Une analyse comportementale a donc été mise en place pour identifier l'activité des robots sur les sites en générant un score de risque d'une interaction. Il n'est alors plus nécessaire de demander aux utilisateurs de saisir un texte déformé dans une case pour prouver qu'ils sont bien humains. Même reCAPTCHA, le plus grand fournisseur de captchas, est en train de d'abandonner les captchas texte. La technologie a été comprise par les pirates et, par conséquent, 2019 signera la fin des captchas texte, du moins sur tous les sites réellement soucieux de la sécurité.

L'IA continuera de gagner en popularité au cours de cette nouvelle année et à l'avenir. Et même si nous croyons qu'il y a beaucoup plus de bien que de mal à gagner avec l'intelligence artificielle, les outils sont à l'image de leurs créateurs.

Suivez ce blog tout au long de 2019 pour restez informé sur les avancées de l'IA. Et pour un aperçu plus complet des risques de cybersécurité en 2019, téléchargez et lisez le rapport complet sur les prédictions d'Avast pour 2019.

Merci d’utiliser Avast Antivirus et de nous recommander à vos amis et votre famille. Pour connaître les dernières actualités, pensez à nous suivre sur Facebook et Twitter