La New South Wales Police Force (NWSPF) en Australie a récemment dévoilé une proposition visant à rendre les applications de rencontre plus sûres. La société mère de Tinder, Match Group, s’est montrée réticente quant à l’application de cette proposition. NWSPF a évoqué la possibilité d’utiliser l’IA pour analyser les conversations entre les utilisateurs et la création d’une plateforme permettant à la police d’accéder aux signalements d’agressions sexuelles sur les applications de rencontre.
Un dialogue compliqué entre Tinder et la police australienne
NWSPF est actuellement en dialogue avec Match Group concernant les mesures de sécurité qu’ils souhaitent mettre en place. Tinder reconnait qu’il a un rôle important à jouer pour aider à prévenir les agressions et le harcèlement sexuel, que ce soit en Australie ou à un niveau international. L’application de rencontre s’engage à poursuivre les discussions et à nouer des collaborations à travers le monde avec les principaux organismes s’occupant de cas d’agressions sexuelles. Tinder s’est par exemple rapproché de Rape, Abuse & Incest National Network (RAINN). L’objectif est de rendre l’application plus sûre pour sa communauté.
Parallèlement à cela, NWSPF indique vouloir tout mettre en œuvre pour que les applications de rencontre -et pas uniquement Tinder- coopèrent avec la police en cas de violence sexuelle. Cette volonté fait suite à une enquête qui avait révélé que Tinder ne répondait pas de manière adéquate aux signalements d’agressions sexuelles, ce qui permettait aux harceleurs et agresseurs de disparaitre sans laisser de trace.
L’intelligence artificielle pour lutter contre les harcèlements
NWSPF a évoqué la possibilité que les applications de rencontre puissent développer des algorithmes ou d’autres systèmes d’IA permettant de surveiller les utilisateurs et les messages échangés. Le but serait d’analyser le texte des messages afin de déterminer le comportement d’utilisateurs suspectés d’agressions sexuelles.
Toutefois, la Dr Rosalie Gillett, chercheuse à l’université de technologie du Queensland, a réalisé une étude sur la sécurité des utilisatrices d’applications de rencontre et plus particulièrement sur Tinder. Selon elle, l’IA serait peu susceptible de détecter les comportements problématiques. Le modèle serait entrainé sur des millions de conversations, certes, mais certains messages sans trace équivoque de harcèlement ou d’agression sont utilisés par les harceleurs dans le cadre d’agressions sexuelles.
Les systèmes automatisés qui pourraient être conçus pour des applications de rencontre pourraient être en mesure de détecter des abus manifestes, tels que des menaces à la sécurité physique d’une personne. Mais il y a de fortes chances qu’ils n’identifient pas des comportements plus normaux qui peuvent pourtant s’apparenter à celui d’un harceleur et qui seraient alors considérés comme le comportement d’une personne qui n’a rien à se reprocher.
