Actualité DataBuzzWord : L'intelligence artificielle pour lutter contre le cyberharcèlement

Pour approfondir le sujet

Microsoft Build 2020 : Microsoft annonce un superordinateur pour l’entraînement de nouveaux modèles d’intelligence artificielle

À l'occasion de sa conférence Build 2020, Microsoft a dévoilé un superordinateur, conçu en partenariat avec OpenAI. Annoncé comme l'un des cinq plus puissants...

Experience Analytics : Contentsquare lève 190 millions de dollars en Série D

La pépite française Contentsquare, experte en Experience Analytics, a annoncé en ce début de semaine avoir finalisé une levée de fonds de 190 millions...

Projet Cap’FALC : l’outil numérique au service d’une société inclusive d’Inria, Facebook Artificial Intelligence Research et l’Unapei

Face à la crise sanitaire et économique actuelle, il est important que pouvoir transmettre à tous les citoyens les informations leur permettant de comprendre...

DataBuzzWord : L’intelligence artificielle pour lutter contre le cyberharcèlement

Dans cet épisode de Data BuzzWord, Jean-louis Quéguiner reçoit Charles Cohen afin de parler de l’application de lutte contre le harcèlement sur les réseaux sociaux qu’il a lancée : Bodyguard.ai.

Listen to “#17. Charles Cohen – Bodyguard.ai – l’IA au secours du CyberHarcelement” on Spreaker.

Selon son auteur, Bodyguard supprime automatiquement 90% des commentaires haineux. L’application utilise pour cela fasttext et word2vec, et se base sur un dataset de 3 millions de commentaires incluant 600 000 contenus haineux.

Cette analyse est toutefois combinée à un moteur de règles destiné à prendre en considération le contexte :

Charles Cohen explique : “Le problème c’est que si on veut détecter beaucoup de choses, ça va détecter également beaucoup d’erreurs.

Ce que font les GAFAs, c’est qu’ils réduisent la sensibilité d’analyse à 20 ou 30 % de contenu détecté pour faire très peu d’erreurs.

C’est dû à l’absence d’analyse de contexte. Avec ce genre de Machine Learning, si on va dire: “n’écoute pas les c**nards qui disent que t’es moche”, l’algorithme va dire que ce contenu est haineux car il y a des mots très violents, alors que ce commentaire est plutôt gentil.

On compense ce fort taux d’erreur par une combinaison de plusieurs niveaux d’analyse qui sont envoyés dans des modèles de prédiction, ce qui réduit le taux d’erreur à 2%.”

L’application Bodyguard est disponible sur Android et Ios.

Contributeur expert

Partager l'article

Dernières actualités

Microsoft Build 2020 : Microsoft annonce un superordinateur pour l’entraînement de nouveaux modèles d’intelligence artificielle

À l'occasion de sa conférence Build 2020, Microsoft a dévoilé un superordinateur, conçu en partenariat avec OpenAI. Annoncé comme l'un des cinq plus puissants...

Experience Analytics : Contentsquare lève 190 millions de dollars en Série D

La pépite française Contentsquare, experte en Experience Analytics, a annoncé en ce début de semaine avoir finalisé une levée de fonds de 190 millions...

Projet Cap’FALC : l’outil numérique au service d’une société inclusive d’Inria, Facebook Artificial Intelligence Research et l’Unapei

Face à la crise sanitaire et économique actuelle, il est important que pouvoir transmettre à tous les citoyens les informations leur permettant de comprendre...

La Commission européenne annonce 122 millions d’euros supplémentaires pour la recherche et l’innovation

La Commission européenne a annoncé la mobilisation de 122 millions d'euros supplémentaires dans le cadre de son programme de recherche et d'innovation Horizon 2020...