Le paysage technologique est truffé de bonnes intentions qui peuvent avoir des conséquences négatives graves et durables.
La violence entre partenaires intimes touche de larges pans de la société - et le monde des rencontres en ligne ne fait pas exception. Pour faire face à ce problème, Tinder a récemment annoncé que sa société mère, Match Group, apportait une « contribution significative » à la plateforme à but non lucratif de vérification des antécédents nommée Garbo. Dans le cadre de cette contribution, Match Group intégrera les services de Garbo directement dans la plateforme Tinder. Les utilisateurs pourront choisir s'ils veulent payer des frais (actuellement non divulgués) directement à Garbo afin d'effectuer une vérification sur un rendez-vous potentiel.
Garbo a été fondée en 2018 par Kathryn Kosmides, elle-même survivante de violences sexistes. L'objectif de l'organisation à but non lucratif est de réduire la violence sexiste en fournissant un accès à faible coût aux « dossiers publics et aux rapports de violence ou d'abus, y compris les arrestations, les condamnations, les ordonnances restrictives, le harcèlement et d'autres crimes violents ». Afin d'aborder les questions d'inégalité dans le système judiciaire, Garbo n'inclura pas les condamnations pour drogue et les contrôles routiers, qui sont connus pour affecter de manière disproportionnée les groupes marginalisés.
« La plupart du temps, ce genre de fonctionnalités de sécurité partent d'une bonne intention - mais sont inefficaces »
Match Group prévoit de tester la technologie dans Tinder et de la déployer dans d'autres propriétés du groupe - qui incluent Match, OkCupid, PlentyOfFish, Hinge, Pairs, Meetic et OurTime - plus tard cette année. Garbo est actuellement en version bêta et n'est accessible que sur invitation, mais la société a annoncé que les gens pourront effectuer une vérification avec seulement un nom de famille ou un numéro de téléphone.
Match positionne ce partenariat dans le cadre de ses efforts continus pour protéger les personnes qui utilisent ses plateformes. Par exemple, elle s'associe actuellement à RAINN pour évaluer la manière dont elle traite les rapports de mauvaise conduite sexuelle sur ses sites et applications. Ils ont également mis en place un groupe consultatif interne axé sur « la prévention des agressions sexuelles, des abus, du harcèlement en ligne et des problèmes connexes ».
Mais si la protection des utilisateurs contre la violence sexiste est indéniablement importante, les experts de la vie privée et les défenseurs des droits des victimes s'inquiètent de l'offre d'un accès in-app à la vérification des antécédents en ligne.
« La plupart du temps, ce genre de fonctionnalités de sécurité partent d'une bonne intention - mais sont inefficaces », explique Shane McNamee, responsable de la confidentialité chez Avast. « Elles semblent bonnes, mais elles ne justifient pas les violations de la vie privée. Donc, même si vous essayez de défendre un droit vraiment important, vous devez évaluer son utilité et les preuves de son efficacité ».
Noble - mais cela fonctionnera-t-il ?
Erica Olsen, directrice du programme Safety Net du National Network to End Domestic Violence (NNDEV), souligne que de nombreuses personnes qui commettent des violences sexistes ne sont pas condamnées - ni même arrêtées. Une vérification des antécédents « propre » peut donc donner un faux sentiment de sécurité.
« Souvent, lorsque la vérification des antécédents est présentée comme faisant partie d'une fonctionnalité, elle est présentée comme une garantie sans que l'on connaisse ses limites », explique Mme Olsen. « Si quelqu'un n'apparaît pas - s'il ne voit pas le nom ou le dossier d'une personne - cela peut amener quelqu'un à penser qu'il n'y a pas de problème. Mais nous savons que beaucoup de personnes ne sont pas condamnées d'une manière qui apparaîtrait dans une vérification des antécédents ».
Selon RAINN, la principale organisation de lutte contre les agressions sexuelles aux États-Unis, 230 agressions sexuelles sur 1 000 - soit environ un quart - sont signalées à la police. Parmi les agressions signalées, 46 sur 1 000 donnent lieu à une arrestation, neuf sont transmises aux procureurs, cinq donnent lieu à une condamnation pour crime et 4,6 seront incarcérés. Les chiffres pour les coups et blessures sont plus élevés - plus de la moitié sont signalés, environ un quart conduisent à une arrestation, un dixième sont transmis aux procureurs et trois pour cent finissent par être incarcérés - mais ils représentent toujours un faible pourcentage des crimes réellement commis.
En outre, Patrick Ambron, fondateur et PDG de la société BrandYourself, spécialisée dans la gestion de la réputation en ligne et la protection de la vie privée, fait remarquer qu'il ne faudrait pas grand-chose à une personne qui sait qu'elle a un casier judiciaire pour contourner le système. « Il lui suffirait de s'inscrire sous un autre nom et un autre numéro de téléphone », explique-t-il.
L'ensemble de données est problématique
En plus des préoccupations concernant ce qui n'est pas inclus dans l'ensemble de données, il y a des problèmes potentiels avec ce qui est inclus.
« Il me semble que si vous vous basez sur les condamnations, vous travaillez d'abord avec un ensemble de données problématiques », déclare McNamee. « Même si une personne est reconnue coupable, il n'y a aucun moyen de savoir à quel point elle est 'mauvaise'. C'est potentiellement beaucoup d'extrapoler qu'une personne est un danger pour les femmes juste parce qu'elle a été condamnée pour quelque chose. Et pour tous les criminels condamnés, il y a beaucoup de gens qui n'ont pas été condamnés en raison d'injustices structurelles dans la façon dont les crimes sont signalés, poursuivis et condamnés ».
Ambron souligne que même s'il est « positif » que Garbo vise à aborder les questions d'iniquité au sein du système judiciaire en n'incluant pas les crimes qui ne sont pas directement corrélés à la violence sexiste, l'ensemble du système a un impact disproportionné sur les personnes racialisées et à faible revenu. Par exemple, les Noirs et les Hispano-Américains représentent 32 % de la population américaine, mais ils constituent 56 % de la population incarcérée aux États-Unis, selon la NAACP.
« Avoir un casier judiciaire ne signifie pas nécessairement que vous avez fait quelque chose de mal », dit Ambron. « Il est bien documenté que certains groupes sont plus susceptibles de se retrouver du mauvais côté de la médaille ».
De bonnes intentions avec des conséquences involontaires
L'intention de cette fonctionnalité est bonne - cela ne fait aucun doute. Mais le paysage technologique est jonché de bonnes intentions qui ont eu des conséquences négatives graves, durables et involontaires. (Voir : toute l'histoire des médias sociaux.) Il est donc important que Match considère les façons dont l'intégration de la vérification des antécédents pourrait potentiellement causer des dommages.
Par exemple, ces vérifications sont censées aider les gens - vraisemblablement des femmes pour la plupart - à faire des recherches sur leurs partenaires - vraisemblablement des hommes pour la plupart - afin de voir s'ils ont des antécédents de violence. Mais Mme Ambron souligne qu'elles pourraient également être utilisées par des agresseurs potentiels pour trouver des informations sur des victimes potentielles.
« Et si un homme veut faire des recherches sur une femme ? dit Ambron. « Peut-être qu'elle a un rapport d'arrestation pour quelque chose, comme une bagarre, mais rien de sérieusement violent. Cela crée potentiellement un moyen d'obtenir le nom complet et les détails d'une personne avant qu'elle ne se sente à l'aise pour les divulguer. C'est suffisant pour faire courir un risque élevé à quelqu'un".
Un porte-parole de Match Group déclare à Avast que les vérifications traditionnelles des antécédents en ligne « fournissent un accès incroyablement invasif à des informations telles que les adresses de domicile, les numéros de téléphone et les e-mails ». Garbo est axé sur le signalement de la violence et ne donne pas accès à ce type d'informations ».
Olsen envisage également un avenir possible où une personne choisit de ne pas payer pour une vérification des antécédents d'un rendez-vous potentiel, est agressée, puis est blâmée pour son agression parce qu'elle n'a pas utilisé la fonction de « sécurité ».
« Est-ce qu'il y aura un blâme de la victime et des critiques pour ne pas avoir utilisé cet outil ? Parce que c'est le monde dans lequel nous vivons », dit Olsen. « On apprend aux femmes à faire toutes ces choses pour 'éviter' les agressions et nous vivons dans un monde où le type de traitement et de questionnement que vous recevez si vous ne faites pas toutes ces choses est très clair. Ce n'est pas la faute des vérifications des antécédents, mais c'est la façon dont elles s'entrecroisent avec la façon dont les victimes sont traitées ».
Qu'en est-il des personnes qui se débrouillent seules ?
L'un des arguments en faveur de l'intégration de la vérification des antécédents directement dans les sites de rencontres en ligne est qu'il s'agit de toute façon d'informations auxquelles une personne peut accéder en ligne par elle-même. Mais Shane McNamee estime qu'il s'agit d'une fausse équivalence.
« Le fait que quelqu'un puisse aller faire quelque chose de son propre chef ne signifie pas qu'il est légitime pour l'entreprise de le faire dans le cadre de ses services", dit McNamee. « Même si nous admettons qu'il y a de bonnes intentions en jeu, cela se déroule dans un contexte d'entreprise, où cette proposition est considérée comme une amélioration du service de Match, ce qui pourrait pousser davantage de personnes à l'utiliser ».
Le contexte est important pour des raisons juridiques et éthiques, explique M. McNamee. « Si un individu veut faire des vérifications sur toutes les personnes qu'il rencontre sur Tinder, c'est très bien - le risque est pour lui. Il ne s'agit pas d'une grande entreprise. Cette question est très pertinente en Europe, car le GDPR, à juste titre, impose des limites strictes quant aux personnes qui peuvent recueillir des données sur les condamnations pénales et pourquoi, et ces limites ne s'appliqueraient pas à l'individu dans ce cas, mais elles pourraient absolument s'appliquer à Match ou Garbo ».
Mais selon Match Group, Tinder n'aura pas accès aux vérifications des antécédents eux-mêmes - ils fourniront simplement un moyen d'y accéder.
« Match Group et Tinder ne fourniront aucune donnée à Garbo », déclare un porte-parole de Match Group par courriel. « Toutes les informations utilisées pour une vérification des antécédents figurent sur le profil externe de l'utilisateur ou sont divulguées volontairement lors de conversations avec ses correspondants. Match Group ne demandera ni ne stockera non plus les données de vérification des antécédents des utilisateurs ».
Si le fait que Tinder ne stocke aucune de ces informations est potentiellement une bonne chose - et pourrait apaiser certaines des préoccupations que les experts en matière de confidentialité et de sécurité ont à propos de ce service - Olsen se demande si le fait qu'un utilisateur paie pour une vérification de ses antécédents est vraiment la solution.
« Si Tinder dit que vous pouvez payer pour cela, alors Tinder peut aussi connaître ces informations - et ils autorisent des personnes ayant des antécédents violents sur la plateforme", dit Olsen. « Ils pourraient prendre une décision basée sur ces informations concernant les personnes autorisées sur la plateforme, plutôt que de laisser l'utilisateur payer et prendre cette décision ».
Olsen ajoute que ce n'est pas mal de rechercher quelqu'un avec une recherche d'antécédents - et que cela pourrait même potentiellement être vraiment utile dans certains cas. « Ce n'est tout simplement pas une solution complète », dit-elle. « Et ce n'est pas exempt de défauts ».
Avast est un leader mondial de la cybersécurité et de la protection de la vie privée avec des centaines de millions d'utilisateurs dans le monde. Protégez tous vos appareils avec notre produits antivirus, anti-ransomware et de protection de la vie privée.
.png?width=48&height=48&name=image%20(3).png)