Devant les critiques qui se sont multipliées depuis les récentes attaques terroristes, Facebook a souhaité mettre en avant le fait qu’elle lutte efficacement contre la propagande terroriste sur le réseau social.
Monika Bickert, directrice de la politique internationale et de Brian Fishman, en charge de la politique anti-terroriste du réseau social, ont expliqué leur travail sur dans une note de blog sur le terrorisme.
L’intelligence artificielle
L’entreprise explique qu’elle compte près de 150 personnes qui s’occupent au quotidien de la lutte contre le terrorisme sur le réseau social, des « spécialistes universitaires, d’anciens procureurs ou policiers […] et des ingénieurs ».
Ils ont ainsi dévoilé qu’une grande partie de leur système de suppression préventive reposait sur l’intelligence artificielle et la modération humaine. Leur système de reconnaissance d’images leur permet de repérer et de censurer les contenus illégaux.
La modération humaine, un indispensable
La plate-forme utilise également un système de compréhension du langage afin de pouvoir repérer plus rapidement les contenus illégaux, ou similaires à des contenus déjà identifiés comme tels. Parallèlement, la modération humaine reste indispensable pour Facebook afin d’éviter toute dérive.
Un drapeau de l’État islamique servant de propagande pour le groupe terroriste n’est pas la même chose d’un drapeau servant d’illustration à un article de presse critiquant l’action de ce groupe. Facebook compte embaucher 3000 modérateurs supplémentaires à cet effet.
Le réseau social entend ainsi lutter plus efficacement contre le terrorisme, les fake news, la violence et les cas de suicide. Il s’agit d’un défi énorme pour lequel il n’y a pas de solution évidente. Toutefois, l’entreprise refuse d’être tenue pour unique responsable:
« Nous ne voulons pas donner l’impression qu’il existe la moindre solution technique facile. Assurer la sécurité des [utilisateurs] sur une plateforme utilisée par près de 2 milliards d’utilisateurs mensuels, qui postent et commentent dans plus de 80 langues aux 4 coins du monde représente un défi énorme. »
