Intelligence artificielle La police australienne souhaite utiliser l'intelligence artificielle pour agir contre les harceleurs...

Pour approfondir le sujet

Sur le même thème :

L’intelligence artificielle au service de la lutte contre l’exploitation sexuelle sur internet

Les travaux autour de la conception d'outils d'IA pour limiter les cas de harcèlements ou de trafics en ligne tendent à se multiplier à...

Un projet de recherche vise à repérer et diagnostiquer des troubles autistiques grâce à l’intelligence artificielle

Une équipe de recherche de l'Université de Genève (UNIGE) a mis au point une méthode basée sur l'IA afin de détecter et de diagnostiquer...

Alzheimer : Une application basée sur l’intelligence artificielle au service des thérapies par réminiscence

La thérapie par réminiscence est une approche utilisée dans le domaine de la gérontologie, le champ d'études portant sur le vieillissement et ses conséquences....

Arsenal, un assistant photo intelligent lève près de 2 millions de dollars

Les projets intégrant des systèmes intelligents intéressent plus que jamais. Les investisseurs sont de plus en plus nombreux tout comme les levées de fonds,...

La police australienne souhaite utiliser l’intelligence artificielle pour agir contre les harceleurs sur Tinder

La New South Wales Police Force (NWSPF) en Australie a récemment dévoilé une proposition visant à rendre les applications de rencontre plus sûres. La société mère de Tinder, Match Group, s’est montrée réticente quant à l’application de cette proposition. NWSPF a évoqué la possibilité d’utiliser l’IA pour analyser les conversations entre les utilisateurs et la création d’une plateforme permettant à la police d’accéder aux signalements d’agressions sexuelles sur les applications de rencontre.

Un dialogue compliqué entre Tinder et la police australienne

NWSPF est actuellement en dialogue avec Match Group concernant les mesures de sécurité qu’ils souhaitent mettre en place. Tinder reconnait qu’il a un rôle important à jouer pour aider à prévenir les agressions et le harcèlement sexuel, que ce soit en Australie ou à un niveau international. L’application de rencontre s’engage à poursuivre les discussions et à nouer des collaborations à travers le monde avec les principaux organismes s’occupant de cas d’agressions sexuelles. Tinder s’est par exemple rapproché de Rape, Abuse & Incest National Network (RAINN). L’objectif est de rendre l’application plus sûre pour sa communauté.

Parallèlement à cela, NWSPF indique vouloir tout mettre en œuvre pour que les applications de rencontre -et pas uniquement Tinder- coopèrent avec la police en cas de violence sexuelle. Cette volonté fait suite à une enquête qui avait révélé que Tinder ne répondait pas de manière adéquate aux signalements d’agressions sexuelles, ce qui permettait aux harceleurs et agresseurs de disparaitre sans laisser de trace.

L’intelligence artificielle pour lutter contre les harcèlements

NWSPF a évoqué la possibilité que les applications de rencontre puissent développer des algorithmes ou d’autres systèmes d’IA permettant de surveiller les utilisateurs et les messages échangés. Le but serait d’analyser le texte des messages afin de déterminer le comportement d’utilisateurs suspectés d’agressions sexuelles.

Toutefois, la Dr Rosalie Gillett, chercheuse à l’université de technologie du Queensland, a réalisé une étude sur la sécurité des utilisatrices d’applications de rencontre et plus particulièrement sur Tinder. Selon elle, l’IA serait peu susceptible de détecter les comportements problématiques. Le modèle serait entrainé sur des millions de conversations, certes, mais certains messages sans trace équivoque de harcèlement ou d’agression sont utilisés par les harceleurs dans le cadre d’agressions sexuelles.

Les systèmes automatisés qui pourraient être conçus pour des applications de rencontre pourraient être en mesure de détecter des abus manifestes, tels que des menaces à la sécurité physique d’une personne. Mais il y a de fortes chances qu’ils n’identifient pas des comportements plus normaux qui peuvent pourtant s’apparenter à celui d’un harceleur et qui seraient alors considérés comme le comportement d’une personne qui n’a rien à se reprocher.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Bloom annonce une levée de fonds de 11 millions d’euros et un partenariat stratégique avec Dassault Systèmes

Bloom, plateforme d’intelligence artificielle (IA) dédiée à l’analyse qualitative, prédictive et stratégique des réseaux sociaux, a annoncé en ce mois d'octobre une levée de...

Comment le FDL et Intel étudient les effets des rayonnements cosmiques sur les astronautes grâce à l’intelligence artificielle

Ces derniers mois, les mentors Intel AI sont venus épauler les chercheurs du Frontier Development Lab (FDL) dans leur étude sur la santé des...

Neuf entreprises européennes sélectionnées pour le programme EMERGE 2021 de Softbank Vision Fund et Speedinvest

Après le succès du premier programme d'accélération Emerge lancé aux États-Unis, la première édition européenne a été lancée cet été. Au total, plus de...

Le groupe Manutan investit dans la Robotic Process Automatisation pour dynamiser son département Finances

Manutan, fournisseur européen de produits et services aux entreprises et aux collectivités et spécialiste du e-commerce BtoB, investit dans la Robotic Process Automatisation (RPA)...