Actualité La police australienne souhaite utiliser l'intelligence artificielle pour agir contre les harceleurs...

Pour approfondir le sujet

Pénurie des semi-conducteurs : Intel évoque ses prévisions et présente sa stratégie pour limiter les dégâts

À l'heure actuelle, l'industrie de l'informatique traverse une crise particulière : une pénurie de semi-conducteurs, essentiels dans la production de certains composants ou au...

Espagne : un projet de centre européen pour l’intelligence artificielle pour rivaliser avec les infrastructures européennes

En Espagne, un projet ambitieux autour de l'IA tend à se mettre en place. Un groupe d'investisseurs privés, dirigé par les propriétaires du téléopérateur...

L’apprentissage supervisé et par renforcement pour aider les robots à s’adapter à tout type d’environnement

A travers Rapid Motor Adaptation (RMA), Facebook progresse dans l'adaptation des robots à leur environnement, afin de développer leur motricité. Adapter les robots à un...

Cinéma et Deepfake : zoom sur la synchronisation des lèvres avec le doublage en langue étrangère

Le deepfake est une technique reposant sur l'intelligence artificielle qui permet de superposer des fichiers audio ou vidéos sur d'autres fichiers déjà existants pour...

La police australienne souhaite utiliser l’intelligence artificielle pour agir contre les harceleurs sur Tinder

La New South Wales Police Force (NWSPF) en Australie a récemment dévoilé une proposition visant à rendre les applications de rencontre plus sûres. La société mère de Tinder, Match Group, s’est montrée réticente quant à l’application de cette proposition. NWSPF a évoqué la possibilité d’utiliser l’IA pour analyser les conversations entre les utilisateurs et la création d’une plateforme permettant à la police d’accéder aux signalements d’agressions sexuelles sur les applications de rencontre.

Un dialogue compliqué entre Tinder et la police australienne

NWSPF est actuellement en dialogue avec Match Group concernant les mesures de sécurité qu’ils souhaitent mettre en place. Tinder reconnait qu’il a un rôle important à jouer pour aider à prévenir les agressions et le harcèlement sexuel, que ce soit en Australie ou à un niveau international. L’application de rencontre s’engage à poursuivre les discussions et à nouer des collaborations à travers le monde avec les principaux organismes s’occupant de cas d’agressions sexuelles. Tinder s’est par exemple rapproché de Rape, Abuse & Incest National Network (RAINN). L’objectif est de rendre l’application plus sûre pour sa communauté.

Parallèlement à cela, NWSPF indique vouloir tout mettre en œuvre pour que les applications de rencontre -et pas uniquement Tinder- coopèrent avec la police en cas de violence sexuelle. Cette volonté fait suite à une enquête qui avait révélé que Tinder ne répondait pas de manière adéquate aux signalements d’agressions sexuelles, ce qui permettait aux harceleurs et agresseurs de disparaitre sans laisser de trace.

L’intelligence artificielle pour lutter contre les harcèlements

NWSPF a évoqué la possibilité que les applications de rencontre puissent développer des algorithmes ou d’autres systèmes d’IA permettant de surveiller les utilisateurs et les messages échangés. Le but serait d’analyser le texte des messages afin de déterminer le comportement d’utilisateurs suspectés d’agressions sexuelles.

Toutefois, la Dr Rosalie Gillett, chercheuse à l’université de technologie du Queensland, a réalisé une étude sur la sécurité des utilisatrices d’applications de rencontre et plus particulièrement sur Tinder. Selon elle, l’IA serait peu susceptible de détecter les comportements problématiques. Le modèle serait entrainé sur des millions de conversations, certes, mais certains messages sans trace équivoque de harcèlement ou d’agression sont utilisés par les harceleurs dans le cadre d’agressions sexuelles.

Les systèmes automatisés qui pourraient être conçus pour des applications de rencontre pourraient être en mesure de détecter des abus manifestes, tels que des menaces à la sécurité physique d’une personne. Mais il y a de fortes chances qu’ils n’identifient pas des comportements plus normaux qui peuvent pourtant s’apparenter à celui d’un harceleur et qui seraient alors considérés comme le comportement d’une personne qui n’a rien à se reprocher.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Pénurie des semi-conducteurs : Intel évoque ses prévisions et présente sa stratégie pour limiter les dégâts

À l'heure actuelle, l'industrie de l'informatique traverse une crise particulière : une pénurie de semi-conducteurs, essentiels dans la production de certains composants ou au...

Espagne : un projet de centre européen pour l’intelligence artificielle pour rivaliser avec les infrastructures européennes

En Espagne, un projet ambitieux autour de l'IA tend à se mettre en place. Un groupe d'investisseurs privés, dirigé par les propriétaires du téléopérateur...

L’apprentissage supervisé et par renforcement pour aider les robots à s’adapter à tout type d’environnement

A travers Rapid Motor Adaptation (RMA), Facebook progresse dans l'adaptation des robots à leur environnement, afin de développer leur motricité. Adapter les robots à un...

Cinéma et Deepfake : zoom sur la synchronisation des lèvres avec le doublage en langue étrangère

Le deepfake est une technique reposant sur l'intelligence artificielle qui permet de superposer des fichiers audio ou vidéos sur d'autres fichiers déjà existants pour...