Intelligence artificielle L'intelligence artificielle au service de la lutte contre l'exploitation sexuelle sur internet

Pour approfondir le sujet

Sur le même thème :

Une équipe de recherche exploite le machine learning pour déterminer les indicateurs du risque suicidaire

Chez les 15-24 ans et chez les étudiants, le suicide est la seconde cause de mortalité. En partant de ce constat, une équipe de...

Quelle fiabilité pour la reconnaissance vocale utilisée pour le diagnostic du COVID-19 ?

Savoir si des patients sont atteints du COVID-19 grâce à leur voix ? C'est le défi que se sont lancé plusieurs équipes de recherche....

Grâce au ML, des chercheurs ont découvert qu’un fort taux de glycémie favorise les formes graves du Covid

L'École Polytechnique fédérale de Lausanne (EPFL) est à l'origine, dans le cadre du Blue Brain Project, d'une initiative qui vise à combattre le Covid-19....

Allemagne : le projet SPELL, une plateforme sémantique pour l’aide à la décision dans les situations de crise

En juin 2021, le projet de recherche SPELL (pour Semantische Plattform zur intelligenten Entscheidungs- und Einsatzunterstützung in Leitstellen und beim Lagemanagement, en français :...

L’intelligence artificielle au service de la lutte contre l’exploitation sexuelle sur internet

Les travaux autour de la conception d’outils d’IA pour limiter les cas de harcèlements ou de trafics en ligne tendent à se multiplier à l’avenir. Un exemple concret est celui du projet STOP qui vise à analyser les publications twitter pour limiter les risques de suicide. L’Institut québécois d’intelligence artificielle (Mila) a conçu un algorithme capable de détecter des activités ou des faits pouvant mettre en lumière les cas d’exploitation sexuelle en ligne et intervenir en conséquence. L’Université de Carnegie Mellon avec son école de science informatique et l’Université McGill ont participé à son élaboration.

Tenter de trouver une solution intelligente pour lutter contre le fléau de l’exploitation sexuelle

Infoshield : c’est le nom de l’algorithme qui pourrait être utilisé à l’avenir par la police canadienne dans sa lutte contre l’exploitation sexuelle en ligne. Selon l’Organisation internationale du travail, environ 4,8 millions de personnes sont victimes annuellement de trafic de personnes à des fins d’exploitation sexuelle. Cette industrie mondiale, contrôlée par des organisations criminelles, générerait presque 70 milliards d’euros.

Pour lutter contre ce fléau, une équipe de recherche a conçu cet algorithme capable d’identifier les activités de traite des personnes dans les annonces d’escorte en ligne. Les publicités sur internet sont régulièrement utilisées dans ce genre de trafic : le marché de la publicité en ligne est en constante croissance et offre aux criminels une plateforme anonyme et à faible risque pour réaliser leurs méfaits en “toute tranquillité”.

C’est ce que précise Reihaneh Rabbany, membre académique principal de Mila, professeure adjointe à l’école d’informatique de McGill et titulaire de la Chaire en IA-Canada CIFAR.

“La majorité des victimes sont annoncées en ligne et n’ont aucune influence sur la formulation des annonces publiées par leur exploiteur, qui contrôle généralement quatre à six victimes à la fois.”

Cette pratique a toutefois une faille : les activités organisées en ligne peuvent être détectées en raison des formulations similaires et des doublons parmi les annonces…

L’algorithme Infoshield analyse l’information et cible les annonces

L’algorithme InfoShield a été conçu de telle manière à ce qu’il soit “capable de repérer des millions de publicités et de mettre en évidence les points communs entre les annonces” selon les dires de Christos Faloutos, professeur à l’école d’informatique de CMU. L’algorithme serait capable de balayer l’information qui circule en temps réel dans l’univers du web et des réseaux sociaux, 24 heures sur 24. Puis il serait en mesure d’en faire l’analyse en reliant des données entre elles.

Catalina Vajiac et Meng-Chieh Lee, deux chercheuses du Mila, précisent le fonctionnement de l’outil :

“Le trafic d’êtres humains est un grave problème sociétal et difficile à surmonter. En cherchant de petits groupes d’annonces qui contiennent du texte similaire plutôt que d’analyser des annonces autonomes, nous sommes en mesure de localiser les groupes d’annonces qui sont les plus susceptibles de correspondre à des activités organisées, à savoir un signal fort de trafic humain.”

Christos Faloutsos, Catalina Vajiac et Namyong Park de Carnegie Mellon University, Reihaneh Rabbany, Aayushi Kulshrestha et Sacha Levy de McGill University et Mila, Meng-Chieh Lee de l’Université nationale Chiao Tung, et Cara Jones de Marinus Analytics sont les auteurs de la publication présentant l’ensemble des travaux ayant mené à la réalisation de cet outil.

Comment l’algorithme a-t-il été entrainé et testé ?

Afin de tester Infoshield, les chercheurs ont appliqué l’algorithme à un ensemble d’annonces d’escortes déjà identifiées par des experts sachant reconnaitre ce type de publicité. Les expérimentations ont permis le signalement des annonces sur le net avec une précision de 85 %. Ces résultats seraient, selon l’équipe de recherche, meilleurs que tous les autres algorithmes d’IA réalisant les mêmes tâches.

Les données d’entrainement du modèle contenaient des annonces réelles placées par des trafiquants d’êtres humains : une difficulté supplémentaire pour les chercheurs qui ne pouvaient pas partager des exemples des similitudes identifiées ou les données elles-mêmes par souci de protection des données et des victimes. Néanmoins, les chercheurs ont pu exploiter des ensembles de données publiques qu’ils ont utilisés pour entrainer Infoshield.

Les chercheurs espèrent que le développement d’outils comme celui-ci puisse être bénéfique pour la société et que leur algorithme puisse être exploité par les forces de police pour lutter contre l’exploitation sexuelle.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Etude du Centre Hubertine Auclert sur « Les freins à l’accès des filles aux filières informatiques et numériques »

De nombreuses études sont menées tout au long de la scolarité des élèves, certaines se rapportent à la réussite scolaire des filles et leurs...

Le Conseil de l’UE invite les Etats Membres à poursuivre leurs efforts dans la lutte contre le terrorisme

Début juin, le Conseil de l'UE a adopté des conclusions sur les actions accomplies et les prochaines étapes à franchir pour assurer la protection...

Village by CA Paris dévoile les duos lauréats des « Village Awards 2022 »

Le 30 juin dernier, le Village by CA Paris a organisé la cinquième édition des Village Awards en collaboration avec Les Echos Entrepreneurs et...

Focus sur les recommandations de la CNCDH visant à promouvoir un encadrement juridique ambitieux de l’IA

Le 21 avril 2021, la Commission Européenne présentait son projet de réglementation de l'IA. Plus récemment, en décembre dernier, la Slovénie qui assurait alors...
Recevoir une notification en cas d'actualité importante    OK Non merci