Intelligence artificielle Sur Tinder, l’intelligence artificielle et le Deep Learning au service de la...

Pour approfondir le sujet

Sur le même thème :

Shift Technology révèle de nouvelles tendances de fraude à l’assurance détectées par l’intelligence artificielle

Shift Technology a dévoilé le troisième volume de son rapport Shift Insurance Perspectives. Appartenant au club très fermé des licornes, l'entreprise créée en 2014 à...

La police australienne souhaite utiliser l’intelligence artificielle pour agir contre les harceleurs sur Tinder

La New South Wales Police Force (NWSPF) en Australie a récemment dévoilé une proposition visant à rendre les applications de rencontre plus sûres. La...

Levée de fonds de 2,5 millions d’euros réalisée par AI Verse, start-up spécialiste du Deep Learning, auprès d’Innovacom et de Bpifrance

Basée à Sophia Antipolis, AI Verse développe une nouvelle technologie afin d'aider les entreprises à former de manière efficace leurs réseaux de Deep Learning...

DELPHI : un framework du MIT utilisant le machine learning pour estimer l’impact d’un article scientifique

Deux chercheurs du Massachussets Institue of Technology (MIT) ont développé un framework grâce à l'intelligence artificielle. Basée sur le machine learning, cette infrastructure logicielle...

Sur Tinder, l’intelligence artificielle et le Deep Learning au service de la lutte contre le harcèlement

Créée en 2012 sur un campus universitaire, la plateforme de rencontres est devenue, dans son domaine, l’application la plus utilisée dans le monde. Elle est aujourd’hui disponible dans 190 pays et dans plusieurs langues et a été téléchargée plus de 430 millions de fois. Pour protéger davantage ses utilisateurs, la plateforme Tinder a mis en place de nouvelles fonctionnalités pouvant être très utiles pour lutter contre les comportements inappropriés.

De nouvelles fonctionnalités pour prévenir et alerter

Depuis son lancement sur le marché, les équipes de Tinder installent régulièrement de nouvelles fonctionnalités afin d’améliorer l’utilisation de la plateforme et mettent en place des moyens efficaces pour éviter que ses utilisateurs, et surtout ses utilisatrices, soient victimes de cyber-harcèlement. De nouveaux outils viennent de s’ajouter à une longue liste d’outils de sécurité et de protection des membres.

La première fonctionnalité ajoutée à l’application est l’outil DTBY (Does This Bother You ? Est-ce que cela vous dérange ?) qui permet d’apporter un soutien concret aux membres de l’application. Lorsqu’une injure ou un propos déplacé est détecté automatiquement au cours d’une conversation entre deux membres, Tinder va proposer aux utilisateurs de les signaler. L’utilisation de cette fonctionnalité est donc possible grâce au machine learning et à la contribution directe des membres de Tinder, permettant ainsi à la communauté d’avoir plus de contrôle. Depuis la mise en place de cet outil qui permet d’alerter, 46 % de signalement supplémentaires ont été enregistrés.

La deuxième fonctionnalité, qui permet cette fois de prévenir, est AYS (Are You sure ? Êtes-vous sûr ?). Cette fonctionnalité prévient l’expéditeur lors de l’écriture de son message : elle lui demande de réfléchir à son propos avant d’envoyer son message, car celui-ci pourrait être offensant pour le destinataire. Celle fonctionnalité utilise l’intelligence artificielle afin de détecter les propos injurieux et malveillants. L’outil s’est développé grâce à plusieurs messages signalés comme inappropriés par la communauté de Tinder. Depuis son développement, AYS a déjà réduit de plus de 10 % les propos inappropriés contenus dans les messages envoyés.

Cependant, les utilisateurs peuvent toujours faire abstraction de ces messages de prévention et envoyer leurs insultes qui ne seront pas bloqués. Le destinataire est en revanche invité à cliquer sur « DTBY ? » s’il se sent attaqué.

Comment activer ces fonctionnalités ?

Pour activer DTBY et AYS, il suffit que les membres donnent leur consentement. Cela permet aux deux fonctionnalités d’accéder au contenu et de détecter les messages malveillants et injurieux. Ces nouveaux outils lancés par Tinder protègent mieux les utilisateurs et les invite à se sentir davantage en confiance.

Dans le cas où un membre ne souhaite pas donner son consentement, celui-ci pourra toujours utiliser la fonction Swipe (l’utilisateur fait glisser son doigt vers la droite de l’écran si l’un des profils lui plaît, ou vers la gauche s’il veut l’ignorer) mais ne pourra plus envoyer de message. À noter que ces fonctionnalités permettent également à l’application de pouvoir prendre les mesures nécessaires contre les membres ne respectant pas les règles de la communauté.

Le soutien de l’association RAINN

L’association RAINN – Rape, Abuse & Incest National Network – a apporté son soutien pour développer ces nouvelles fonctionnalités sur la plateforme. Il s’agit d’une organisation américaine de lutte contre les violences sexuelles qui œuvre pour que les auteurs d’agressions sexuelles soit punis par la justice. Les encouragements apportés par cette association à Tinder sont donc bienvenus et renforcent la nécessité de lutter contre le harcèlement sur la plateforme.

Cette implication de Tinder dans la lutte contre le harcèlement s’inscrit dans le cadre du programme Trust & Safety de Match Group. Ce programme représente 100 millions de dollars d’investissement en 2021 pour la lutte contre les comportements inappropriés. De plus, la plateforme s’engage à collaborer avec des experts afin de s’assurer de la sûreté et de l’inclusivité de l’application.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Thierry Maubant

Partager l'article

Levée de fonds de 6 millions d’euros de la fintech lyonnaise Mon Petit Placement

Mon Petit Placement, start-up lancée en 2017, a bouclé en ce mois de novembre sa troisième levée de fonds pour un montant de 6...

Lutte contre la cybercriminalité : l’exemple du défi IA lancé par le gouvernement canadien aux petites entreprises

Comme les autres organismes de police canadiens, la Gendarmerie royale du Canada (GRC) peine à accéder aux données chiffrées saisies lors d'enquêtes criminelles. C'est...

Continuity annonce une levée de fonds de 5 millions d’euros auprès d’Elaia Partners, Bpifrance et Kamet Ventures

Continuity a levé 5 millions d’euros en Seed auprès d'Elaia Partners, Bpifrance et Kamet Ventures a annoncé la jeune pousse cette semaine. La start-up...

ADAM9, un gène potentiellement impliqué dans les formes graves de Covid-19 identifié par l’intelligence artificielle

Pourquoi certains patients atteints de Covid-19 sont-ils asymptomatiques alors que d'autres développent des formes graves, notamment le SDRA (syndrome de détresse respiratoire aigüe) ?...
Recevoir une notification en cas d'actualité importante    OK Non merci