L'intelligence artificielle peut-elle être néfaste ?

Garry Kasparov, 13 juillet 2019

Entretien avec Noel Sharkey de la Foundation for Responsible Robotics.

C'est toujours un grand plaisir de parler avec l'un des pères fondateurs de la cybernétique et de l'informatique. Un grand nombre de créateurs de l'IA et de la robotique sont encore en vie et participent très activement à la communauté de l'IA. C'est sans conteste l'un des avantages de ces domaines relativement récents. C'est comme s'il était possible aujourd'hui de discuter de démocratie avec Thomas Jefferson ou de physique avec Albert Einstein, ce qui ne seraient à manquer sous aucun prétexte.

Ces initiateurs ont souvent des points de vue très différents concernant la technologie (qu'ils ont contribué à créer) de ceux de leurs « descendants » actuels. Ils ont généralement une vision plus large concernant l'impact de la technologie sur la société, plutôt que de considérer le progrès technologique comme une fin en soi. Les investisseurs en capital risque, les milliardaires de la Silicon Valley et les fondateurs de start-ups favorisent leurs propres intérêts, commerciaux et personnels. Leurs sages aînés, au contraire, ne s'arrêtent pas là. Cela ne veut pas dire qu'ils ont toujours raison, bien sûr, mais nous devrions les écouter autant que possible.

J'ai eu la chance de rencontrer plusieurs de ces génies, de l'inventeur Ray Kurzweil à l'informaticien Leonard Kleinrock ou le co-fondateur d'UNIX Ken Thompson, qui sont directement ou indirectement responsables d'une grande partie de la technologie que vous utilisez en ce moment-même pour lire cet article. En 2016, alors que nous intervenions tous les deux lors d'une conférence sur l'IA à Oxford, j'ai été heureux de pouvoir ajouter une nouvelle personnalité à ma « liste de légendes vivantes », à savoir Noel Sharkey de l'Université de Sheffield. Professeur en IA et robotique et titulaire d'un doctorat en psychologie, c'est grâce à son expertise divertissante dans le cadre de l'émission de télévision britannique « Robot Wars » qu'il est devenu célèbre. Noel est également un puissant défenseur politique dont l'objectif, ces dernières années, est de s'assurer que l'« humain » n'est pas oublié dans les « Droits de l'homme » avec sa Foundation for Responsible Robotics et ses campagnes aux Nations Unies et dans d'autres organismes concernant les machines à tuer autonomes.

GarryNoel

À ce titre, il s'est révélé être un partenaire idéal pour une conversation sur la scène principale de l'événement VivaTech de cette année qui a eu lieu à Paris en mai. La question primordiale à nos yeux était simplement la suivante : L'IA est-elle le diable en personne ? Pour gagner du temps, nous avons tous les deux répondu dès le début par un grand « Non ! » Mais bien sûr, il y a eu un « mais... », sinon la conversation aurait très vite tourné court.

Nous avons commencé par tourner autour du pot, ce qui s'est avéré être utile pour nous mettre sur une bonne piste, comme c'est souvent le cas quand on parle avec quelqu'un d'aussi polyvalent que Noel. Se référant à mon histoire personnelle d’affrontement contre les machines spécialisées dans le jeu d'échecs (par rapport à mon plaidoyer actuel sur la relation humain-machine intelligente), il a affirmé être encore affecté par rapport à ma défaite contre le supercalculateur Deep Blue d'IBM en 1997. J'ai surtout réussi à combattre ces démons moi-même en écrivant mon livre « Deep Thinking » en 2017. C'était donc un peu amusant d'entendre la colère de Noel en mon nom, et au nom de la communauté IA. De nombreux membres de cette communauté estimaient que l'aspect scientifique historique du match d'échecs homme contre machine, qui revenait à l'informaticien Alan Turing lui-même, avait été abandonné au profit de l'aspect purement compétitif. (Comme je l'ai reconnu dans mon livre, c'était le droit d'IBM et ma faute de sous-estimer ce que signifierait ce changement dramatique au niveau de l'importance accordée à un tel fait.)

Une question spécifique mentionnée par Noel apporta une ironie pertinente à nos confrontations avec des machines beaucoup plus intelligentes aujourd'hui. Il a souligné que dans la mesure où Deep Blue disposait d’une connexion réseau, il ne serait jamais possible d'être sûr à 100 % que le fair-play ait été respecté, même si on ne pouvait pas non plus prouver que ce n'était pas le cas. Ce manque de transparence était le principal problème, et non pas une allégation particulière d'inconvenance.

Un peu plus de 20 ans plus tard, ces mêmes questions sont remises au centre des débats sur l'IA et l'« IA éthique », mais sont désormais posées dans l'autre sens. Au lieu de s'assurer que les machines intelligentes d'aujourd'hui sont complètement autonomes, comme avec un ordinateur spécialisé en échecs, nous voulons maintenant nous assurer qu'elles ne le sont pas ! C'est-à-dire, garantir qu'aucune machine ne prend des décisions qui ont un impact sur la vie, ou sur la prise de vie, sans intervention humaine et sans surveillance.

Croire que les machines ne font pas d'erreurs est une idée reçue démontrée fausse. Même dans les systèmes fermés comme les échecs, où une application gratuite sur votre téléphone est beaucoup plus forte que n'importe quel humain (et Deep Blue), elles ne sont pas parfaites. Mais dans de tels systèmes, elles sont inévitablement meilleures, et cela importe beaucoup, que ce soit aux échecs ou dans des systèmes relativement ouverts tels que le diagnostic du cancer ou la conduite automobile. Ces implications pratiques ont peu à voir avec l'intelligence artificielle forte (IAF), rivalisant avec la capacité humaine à apprendre et comprendre en contexte. Comme Noel l'a dit lors de notre conversation, dire qu'une machine est « plus intelligente » que l'humain quand elle ne peut pas avoir une conversation ou vous faire une tasse de thé, il s'agit tout simplement d'un abus de langage.

Le pouvoir mythique de narration des machines super intelligentes, la singularité et l'AIF nous détournent des dangers et des préoccupations réels auxquels nous sommes confrontés aujourd'hui. Nos outils intelligents nous aideront à surmonter nos défis si nous leur faisons face de manière créative et ambitieuse. Sans aller jusqu'à Terminator ou une baguette magique, elles nous rendront plus forts, pour le meilleur et pour le pire.

Se plaindre des préjugés sur l'IA, c'est comme se plaindre de l'image renvoyée par un miroir.

Comme j'aime à le dire, se plaindre des préjugés sur l'IA, c'est comme se plaindre de l'image renvoyée par un miroir. La déformer ne règle pas le problème. Nos algorithmes, aussi sophistiqués soient-ils, refléteront toujours notre propre image. Cela ne veut pas dire qu'ils ne sont pas utiles pour exposer ce penchant et trouver beaucoup de choses utiles dans un océan de données. Mais cela signifiera que nous ne pouvons pas faire semblant de laisser la responsabilité humaine et l'obligation de rendre des comptes à Algos.

L' « intelligence augmentée » au lieu de l'IA

Il est plus facile de voir l'IA comme un outil si vous utilisez le terme « intelligence augmentée » plutôt que le terme vague et effrayant « intelligence artificielle ». Noel a évoqué avoir parlé avec l'homme qui a inventé le terme « intelligence artificielle » en 1956, John McCarthy, au sujet de son héritage. McCarthy lui a dit qu'il aurait aimé ne jamais l'avoir utilisé, parce qu'il a causé trop de confusion ! Quatre ans plus tôt, McCarthy avait déclaré que lui et John von Neumann l'avaient appelé « théorie des automates complexes » et personne ne s'y était intéressé. Mais dès qu'on utilisa le terme « intelligence artificielle », le sujet a pris d'autres proportions en terme de popularité !

La confusion et la peur sont les ennemis du progrès. Comme l'a dit Noel, l'IA suscite de nombreuses préoccupations réelles, qu'il s'agisse des peines d'emprisonnement algorithmiques, de la reconnaissance faciale biaisée ou des systèmes d'armes sélectionnant leurs propres cibles sans intervention humaine. Aucune entreprise ni aucun pays ne veut prendre du retard dans la course technologique, mais cela ne doit pas aller au détriment de l'être humain.

Nous avons terminé sur une note optimiste : malgré l'obsession du public pour les fantasmes dystopiques autour des robots et des technologies plus intelligentes, ils continueront d'être une aubaine dans l'ensemble, nous rendant plus productifs, plus prospères et améliorant notre santé. Noel a terminé par une citation improbable, paraphrasant le président américain : « Rendre leur grandeur aux humains ! » (ou « Make humans great again! » en anglais)

Articles liés