La technologie de reconnaissance faciale soulève des problèmes complexes pour la société et les utilisateurs.
Début 2020, rares étaient ceux qui connaissaient Clearview AI, start-up de reconnaissance faciale. Quelques semaines et gros titres plus tard, la société s’est attiré les foudres des législateurs et des activistes pro-confidentialité qui craignent, pour citer le New York Times, « la fin de la confidentialité telle qu’on la connaissait ».
Alors, qu’est-ce que Clearview AI ? Comment cette entreprise a-t-elle dépassé les limites d’une technologie utilisée depuis les années 1960 ? Et pourquoi ses avancées technologiques sont-elles si dangereuses pour le grand public ?
Brève présentation de cette mystérieuse start-up : basée à New York, elle a développé un système de reconnaissance faciale révolutionnaire, produisant des correspondances plus précises et sous plus d’angles que n’importe quelle autre version. Elle vend sa technologie aux forces de l’ordre et autres entreprises. L'application se démarque particulièrement par sa capacité à associer des photos de personnes non identifiées à des images récoltées sur Internet. Sa base de données de 3 milliards d’images comprend des photos recueillies sur Facebook, Twitter et d’autres sites Internet.
Son intérêt est évident : la puissance de sa technologie (notamment la précision de ses vecteurs et sa vaste base d’images) permet de traquer les meurtriers, les agresseurs d’enfants et autres criminels.
Mais les risques potentiels qu’elle présente sont tout aussi évidents.
Les militants pour la confidentialité soutiennent que l’utilisation généralisée de la technologie de reconnaissance faciale enfreint les règles tacites de la technologie et de la confidentialité. Pendant des années, les entreprises technologiques capables de développer des applis de reconnaissance faciale, notamment Google, se sont retenues pour des raisons éthiques. De grandes villes comme San Francisco refusent d’utiliser ce système. Mais Clearview AI a foncé, vendant sa technologie à plus de 600 organismes chargés de l’application de la loi, sans examen public.
On se demande également si la technologie de reconnaissance faciale de Clearview AI pourrait être utilisée à mauvais escient. Traquer de dangereux criminels est une chose. Mais si un agent de police mal intentionné utilisait la mise en correspondance d’images pour espionner ses ennemis ou harceler des jeunes filles ? Et si un gouvernement totalitaire utilisait cette technologie pour trouver des éléments compromettants sur des militants ? Et si un utilisateur identifiait mal quelqu’un et bloquait son accès à des déplacements ou à des prestations sociales ? Et si une entité chargée d'appliquer la loi utilisait une correspondance pour accéder à votre compte bancaire ou à votre messagerie ?
« Les possibilités de faire de cette application une arme sont infinies », a déclaré Eric Goldman (co-directeur de l’High Tech Law Institute à l’Université de Santa Clara) au New York Times.
Clearview AI fait valoir que le premier amendement de la Constitution des États-Unis l’autorise à utiliser des images publiées sur le Web car elles sont dans le domaine public. Mais nombreux sont ceux qui estiment qu’une limite a été franchie.
Les entreprises technologiques dont Clearview AI dépend établissent leur propre limites. Twitter, YouTube et Facebook ont demandé à Clearview AI de cesser son activité et de supprimer toutes les données collectées. De même, Apple a bloqué l’appli Clearview AI sur iPhone pour non-respect de ses règles.
Les problèmes de Clearview AI se sont intensifiés la semaine dernière lorsque la liste de ses clients a fait l’objet d’une fuite. La start-up avait affirmé ne commercialiser sa technologie qu’auprès des forces de l’ordre, mais la liste de ses clients comprend 2 200 organisations réparties dans 27 pays, notamment des entités non gouvernementales telles que Walmart, Best Buy, Bank of America et la NBA.
Comment gérer ses images quand elles sont déjà entrées dans le domaine public et déjà intégrées au système de correspondance ? « Vous pouvez supprimer toutes vos photos sur Facebook », suggère Martin Hron, chercheur chez Avast. « Mais si elles ont déjà été mises en cache sur le Web, quelqu’un pourra toujours les retrouver. Vous pouvez demander à Facebook de supprimer vos données, mais il faudra alors supprimer votre compte », ajoute Hron.
Des lois sur la confidentialité protègent cependant les utilisateurs. En vertu d’une nouvelle loi d’État sur la confidentialité, les résidents de Californie peuvent demander à consulter les données que Clearview AI a collectées à leur sujet et demander leur suppression de la base de données. Les résidents de l’Union européenne peuvent aussi demander la suppression de leurs données.
Cette affaire a généré une prise de conscience. La technologie de reconnaissance faciale soulève des problèmes complexes pour la société et les utilisateurs. L’activité de Clearview AI, déployant un système à l’insu du public, illustre bien comment les gouvernements doivent anticiper ces problèmes.
