L’IA est de notre côté

Garry Kasparov 30 juil. 2019

En dépit de certaines peurs généralisées, l'intelligence artificielle peut aider la cybersécurité en bloquant les fausses informations et autres menaces.

Avec tous ces gros titres au sujet d’une IA éthique et ces histoires sur le danger que représente l’intelligence artificielle, je me demande si on aurait parlé de marteaux éthiques et du danger que représentent les couteaux à l’époque de leur invention si les médias et les réseaux sociaux avaient existé. Les marteaux et les couteaux sont effectivement dangereux, mais ce sont aussi des outils essentiels dont on ne saurait se passer.

L’IA représente quelque chose de bien plus grand et de bien plus vaste que n’importe quel outil de l’âge de pierre, à l’instar de la maîtrise de l’électricité ou d’Internet, ces technologies qui ont pratiquement tout bouleversé dans notre société bien au-delà de toutes nos prédictions. Les algorithmes intelligents fonctionnent de façon plus subtile, en améliorant des systèmes existants et en en créant de tout nouveaux. L’analyse de données n’en devient que plus efficace et permet de révéler des motifs que le cerveau humain ne pourrait jamais concevoir. On constate une efficacité et une productivité florissantes dans tous les domaines, de la conception de puces aux prédictions météo.

Les armes aussi deviennent plus puissantes, et je ne parle pas de robots de science-fiction ou même des vrais robots de ces vidéos virales recevant en commentaire des centaines de « on est fichus ! ». Il n’y a aucune raison de penser que nos incroyables créations technologiques se retourneront contre nous. En tout cas, pas plus que nos marteaux et nos couteaux. Mais, tout comme ces derniers, elles peuvent s’avérer dangereuses entre de mauvaises mains.

Les cyberattaques automatisées sont devenues monnaie courante et, grâce aux outils d’IA, elles n’ont de cesse de gagner en puissance. Les attaques de phishing peuvent récolter et assembler des données personnelles à travers tout Internet afin de composer et d’envoyer des millions de messages. Des algorithmes d’apprentissage observent quels messages obtiennent les meilleurs résultats et révisent leur tactique pour la prochaine vague d’attaques. Les attaques automatisées sondent tous les appareils possibles à la recherche de points d’entrée. Avec l’arrivée en ligne de milliards de nouveaux appareils chaque année, dont un grand nombre pâtissent d’une sécurité épouvantable, il est urgent que l’IA soit améliorée afin de garantir une meilleure protection.

L’Internet des Objets impose de nouveaux défis aux chercheurs en sécurité

Peu de personnes peuvent parler avec autant d’érudition de cette amélioration de l’IA que Rajarshi Gupta, chef de l’IA chez Avast. J’ai récemment eu le plaisir de partager la scène avec lui, en plus de quelques excellents repas mexicains, à l’occasion de l’événement InfoSecurity à Mexico. Il a présenté des statistiques remarquables portant sur les cyberattaques se déroulant en temps réel et a discouru sur la façon dont l’« internet des objets » crée des problèmes inédits pour les chercheurs en sécurité. Nous pouvons installer des logiciels de sécurité sur notre PC et sur notre téléphone, mais qu’en est-il de notre grille-pain ? De prime abord, le fait qu'un pirate informatique prenne le contrôle d’un appareil domestique ne semble pas bien dangereux (même si cet appareil peut mettre le feu à votre maison, comme l’a évoqué Rajarshi !). Mais il peut s’agir du maillon faible permettant d’accéder à votre réseau.

Avec l’arrivée de tant de nouveaux appareils et de malwares capables de s’adapter et de se répandre comme un feu de forêt, la mission de Rajarshi est d’une importance capitale. Le machine learning est indispensable, car c’est le seul moyen qu’ont les outils de sécurité de rester à la hauteur de malwares qui évoluent en permanence. Une base de données standard de signatures de virus est obsolète en quelques secondes.

Dans ce combat de tous les instants, les ressources jouent un rôle d'importance. Comme Rajarshi l’expliquait dans un de nos entretiens avec un journal mexicain, les défenses d'un particulier ou d’une entreprise peuvent d’ordinaire être submergées par les immenses ressources des acteurs étatiques. Les armées de pirates informatiques d'un pays sont d’ordinaires occupées à se cibler mutuellement, mais de plus en plus d’entre elles s’en prennent à des cibles plus faciles, comme les réseaux électriques ou, de façon plus notoire, les comptes e-mail des chefs de partis politiques. Le piratage peut changer la géopolitique du monde de façon plus rapide et moins coûteuse que n’importe quel bataillon de tanks.

La meilleure défense c’est l’attaque

Dans ces circonstances, la dissuasion constitue la seule défense efficace. Je sais qu’Avast est là pour défendre, et qu’il est interdit de « répondre au piratage par le piratage », mais en tant que joueur d’échecs, ma philosophie était que la meilleur défense, c’est l’attaque. Ce qui se vérifie également dans le contexte géopolitique, bien qu’ici il soit plutôt question de la menace que peut représenter une attaque. Le cyber-territoire est trop immense pour que des moyens de défenses seuls fonctionnent efficacement ou de façon durable au niveau national.

Pour nous-mêmes ainsi que pour notre société, l’IA représente également une promesse de protection contre les fake news, les fausses vidéos ainsi que toutes les autres formes d’attaques de désinformation. Un humain n’est pas toujours capable de déceler la différence entre une vraie vidéo et une fausse altérée par une IA, alors que les algorithmes de détection d’une IA si. Idéalement, la création de fausses informations peut être éliminée ou signalée avant que ces informations ne soient distribuées ou publiées.

Ce sera un long et pénible combat, mais nous en avons connu d’autres du même genre par le passé. Certains experts pensaient même que les spams provoqueraient la fin d’Internet, mais à présent, nous les remarquons à peine. Veuillez noter que ce n’est pas le filtrage côté client à lui tout seul qui a résolu la situation, bien qu'il ait quand même eu son importance. De lourdes peines allant jusqu’à des emprisonnements ont été infligées aux spammers, ce qui a suscité un fort effet dissuasif. Les lois visant l’altération de vidéos à des fins malveillantes et les fake news se heurteront au débat sur la liberté d’expression, mais grâce à la jurisprudence, ce problème sera rapidement réglé.

Il faudra combiner l’intelligence des humains et celle des machines pour créer les structures robustes nécessaires pour repousser ces menaces. Je suis heureux que l’IA ainsi que des gens comme Rajarshi Gupta soient de notre côté. Pour en savoir plus, veuillez lire son article sur notre expédition au Mexique ici.

--> -->