Intelligence artificielle Sur Tinder, l’intelligence artificielle et le Deep Learning au service de la...

Pour approfondir le sujet

Sur le même thème :

Shift Technology révèle de nouvelles tendances de fraude à l’assurance détectées par l’intelligence artificielle

Shift Technology a dévoilé le troisième volume de son rapport Shift Insurance Perspectives. Appartenant au club très fermé des licornes, l'entreprise créée en 2014 à...

La police australienne souhaite utiliser l’intelligence artificielle pour agir contre les harceleurs sur Tinder

La New South Wales Police Force (NWSPF) en Australie a récemment dévoilé une proposition visant à rendre les applications de rencontre plus sûres. La...

Levée de fonds de 2,5 millions d’euros réalisée par AI Verse, start-up spécialiste du Deep Learning, auprès d’Innovacom et de Bpifrance

Basée à Sophia Antipolis, AI Verse développe une nouvelle technologie afin d'aider les entreprises à former de manière efficace leurs réseaux de Deep Learning...

DELPHI : un framework du MIT utilisant le machine learning pour estimer l’impact d’un article scientifique

Deux chercheurs du Massachussets Institue of Technology (MIT) ont développé un framework grâce à l'intelligence artificielle. Basée sur le machine learning, cette infrastructure logicielle...

Sur Tinder, l’intelligence artificielle et le Deep Learning au service de la lutte contre le harcèlement

Créée en 2012 sur un campus universitaire, la plateforme de rencontres est devenue, dans son domaine, l’application la plus utilisée dans le monde. Elle est aujourd’hui disponible dans 190 pays et dans plusieurs langues et a été téléchargée plus de 430 millions de fois. Pour protéger davantage ses utilisateurs, la plateforme Tinder a mis en place de nouvelles fonctionnalités pouvant être très utiles pour lutter contre les comportements inappropriés.

De nouvelles fonctionnalités pour prévenir et alerter

Depuis son lancement sur le marché, les équipes de Tinder installent régulièrement de nouvelles fonctionnalités afin d’améliorer l’utilisation de la plateforme et mettent en place des moyens efficaces pour éviter que ses utilisateurs, et surtout ses utilisatrices, soient victimes de cyber-harcèlement. De nouveaux outils viennent de s’ajouter à une longue liste d’outils de sécurité et de protection des membres.

La première fonctionnalité ajoutée à l’application est l’outil DTBY (Does This Bother You ? Est-ce que cela vous dérange ?) qui permet d’apporter un soutien concret aux membres de l’application. Lorsqu’une injure ou un propos déplacé est détecté automatiquement au cours d’une conversation entre deux membres, Tinder va proposer aux utilisateurs de les signaler. L’utilisation de cette fonctionnalité est donc possible grâce au machine learning et à la contribution directe des membres de Tinder, permettant ainsi à la communauté d’avoir plus de contrôle. Depuis la mise en place de cet outil qui permet d’alerter, 46 % de signalement supplémentaires ont été enregistrés.

La deuxième fonctionnalité, qui permet cette fois de prévenir, est AYS (Are You sure ? Êtes-vous sûr ?). Cette fonctionnalité prévient l’expéditeur lors de l’écriture de son message : elle lui demande de réfléchir à son propos avant d’envoyer son message, car celui-ci pourrait être offensant pour le destinataire. Celle fonctionnalité utilise l’intelligence artificielle afin de détecter les propos injurieux et malveillants. L’outil s’est développé grâce à plusieurs messages signalés comme inappropriés par la communauté de Tinder. Depuis son développement, AYS a déjà réduit de plus de 10 % les propos inappropriés contenus dans les messages envoyés.

Cependant, les utilisateurs peuvent toujours faire abstraction de ces messages de prévention et envoyer leurs insultes qui ne seront pas bloqués. Le destinataire est en revanche invité à cliquer sur « DTBY ? » s’il se sent attaqué.

Comment activer ces fonctionnalités ?

Pour activer DTBY et AYS, il suffit que les membres donnent leur consentement. Cela permet aux deux fonctionnalités d’accéder au contenu et de détecter les messages malveillants et injurieux. Ces nouveaux outils lancés par Tinder protègent mieux les utilisateurs et les invite à se sentir davantage en confiance.

Dans le cas où un membre ne souhaite pas donner son consentement, celui-ci pourra toujours utiliser la fonction Swipe (l’utilisateur fait glisser son doigt vers la droite de l’écran si l’un des profils lui plaît, ou vers la gauche s’il veut l’ignorer) mais ne pourra plus envoyer de message. À noter que ces fonctionnalités permettent également à l’application de pouvoir prendre les mesures nécessaires contre les membres ne respectant pas les règles de la communauté.

Le soutien de l’association RAINN

L’association RAINN – Rape, Abuse & Incest National Network – a apporté son soutien pour développer ces nouvelles fonctionnalités sur la plateforme. Il s’agit d’une organisation américaine de lutte contre les violences sexuelles qui œuvre pour que les auteurs d’agressions sexuelles soit punis par la justice. Les encouragements apportés par cette association à Tinder sont donc bienvenus et renforcent la nécessité de lutter contre le harcèlement sur la plateforme.

Cette implication de Tinder dans la lutte contre le harcèlement s’inscrit dans le cadre du programme Trust & Safety de Match Group. Ce programme représente 100 millions de dollars d’investissement en 2021 pour la lutte contre les comportements inappropriés. De plus, la plateforme s’engage à collaborer avec des experts afin de s’assurer de la sûreté et de l’inclusivité de l’application.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Thierry Maubant

Partager l'article

La France et l’Allemagne débloquent 17,5 millions d’euros pour financer les cinq projets lauréats de leur APP commun

Dans le cadre de la Présidence française du Conseil de l’Union européenne, la Direction générale des Entreprises (DGE) organise, avec le soutien du Hub...

La start-up marseillaise Telaqua annonce une levée de fonds de 4 millions d’euros

Telaqua, startup marseillaise spécialisée dans la gestion des systèmes d’irrigation agricoles et viticoles, a annoncé le 11 mai dernier une levée de fonds de...

L’accélérateur de start-ups Future4care inaugure officiellement ses locaux et sa plateforme numérique

Le 10 juin 2021, Sanofi, Capgemini, Generali et Orange annonçaient la création de Future4care qui a pour ambition d’accélérer le développement de solutions européennes...

Hewlett Packard Enterprise annonce la construction de sa première usine dédiée au HPC et à l’IA en Europe

Hewlett Packard Enterprise (HPE) a annoncé, le 18 mai, la construction de sa première usine en Europe destinée à soutenir le développement de supercalculateurs...
Recevoir une notification en cas d'actualité importante    OK Non merci