Actualité Google cherche à lutter contre les contenus indésirables grâce à l'intelligence artificielle

Pour approfondir le sujet

Espagne : un projet de centre européen pour l’intelligence artificielle pour rivaliser avec les infrastructures européennes

En Espagne, un projet ambitieux autour de l'IA tend à se mettre en place. Un groupe d'investisseurs privés, dirigé par les propriétaires du téléopérateur...

L’apprentissage supervisé et par renforcement pour aider les robots à s’adapter à tout type d’environnement

A travers Rapid Motor Adaptation (RMA), Facebook progresse dans l'adaptation des robots à leur environnement, afin de développer leur motricité. Adapter les robots à un...

Cinéma et Deepfake : zoom sur la synchronisation des lèvres avec le doublage en langue étrangère

Le deepfake est une technique reposant sur l'intelligence artificielle qui permet de superposer des fichiers audio ou vidéos sur d'autres fichiers déjà existants pour...

IA et Géopolitique : le comité AIDA du parlement européen propose son approche innovante sur le sujet

Le comité Artificial Intelligence in a Digital Age (AIDA) lié au parlement européen propose une étude sur l'intelligence artificielle et la diplomatie européenne. Intitulé...

Google cherche à lutter contre les contenus indésirables grâce à l’intelligence artificielle

En 2020, Google a annoncé l’introduction de nouveaux outils d’intelligence artificielle dans ses services afin de lutter contre le spam. Selon les équipes de la firme de Mountain View, ces solutions peuvent bloquer jusqu’à 99% de contenus indésirables. Environ 40 milliards de pages de spam sont découvertes chaque jour parmi les milliards de sites ou mails explorés et indexés. Faisons un point sur les techniques employées par Google afin d’éradiquer le spam et les contenus malveillants. 

Plusieurs systèmes d’indexation pour lutter contre le spam

Dans un premier temps, la multinationale a conçu des systèmes basés sur l’IA capable de détecter un contenu indésirable lorsqu’un utilisateur explore des pages web ou d’autres contenus (comme des mails par exemple). S’ils détectent un contenu qui semble indésirable, ils ne l’incluent pas dans l’index avec lequel ils fournissent des résultats de recherche.

Ensuite, le modèle d’indexation analyse le contenu qui a été inclus dans cet index et vérifie s’il peut bel et bien être considéré comme du spam. Si tel est le cas, ce contenu n’apparaitra pas dans les résultats de recherche ou dans la boîte mail de l’utilisateur. Les différentes étapes de détection du spam fonctionnent en fait comme un entonnoir :

Spam entonnoir index internet schéma

Plus on s’approche du bas de l’entonnoir, plus il existe des systèmes pour contrer les spams. La première technologie utilisée est celle du crawler GoogleBot. Il s’agit d’un robot qui parcourt les sites web lien par lien, dans un but d’indexation. C’est ainsi que l’on passe du “crawled spam” au “indexed spam”. Cette deuxième phase utilise le modèle précédemment évoqué. Après cela, il n’existe plus que l’action manuelle pour détecter un potentiel spam.

Au-delà du spam, une question de sécurité

Google indique avoir souhaité aller plus loin en entrant dans le domaine de la protection des données de l’utilisateur dans le cadre d’escroqueries ou de fraudes en ligne. Ces dernières existent sous de nombreuses formes, très souvent signalées par des utilisateurs. Grâce à ces signalements, les systèmes développés par Google ont pu s’entrainer à détecter des sites potentiellement frauduleux pour ensuite analyser leur véritable nature de la même manière que pour les spams comme le montre l’illustration ci-dessous :

google algorithme blocage sites frauduleux

Par ailleurs, le spam est de plus en plus répandu à cause du piratage de sites web. Les spammeurs utilisent le contenu volé pour y ajouter des pages supplémentaires contenant des liens frauduleux pouvant vous rediriger vers de faux sites demandant des coordonnées bancaires, des informations de connexion ou des données personnelles. Plus grave encore, les pirates peuvent pousser à télécharger un logiciel malveillant prenant le contrôle d’un ordinateur ou d’un compte Google.

Les systèmes de Google ont été conçus dans le but de supprimer le plus rapidement possible tout contenu lié à ce genre d’arnaques. En luttant contre ce genre de pratiques, la firme de Mountain View a développé ses technologies d’IA et précise avoir amélioré certaines de ses prestations, notamment dans le classement et l’indexation d’informations liées à l’achat d’un produit par exemple.

 


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Espagne : un projet de centre européen pour l’intelligence artificielle pour rivaliser avec les infrastructures européennes

En Espagne, un projet ambitieux autour de l'IA tend à se mettre en place. Un groupe d'investisseurs privés, dirigé par les propriétaires du téléopérateur...

L’apprentissage supervisé et par renforcement pour aider les robots à s’adapter à tout type d’environnement

A travers Rapid Motor Adaptation (RMA), Facebook progresse dans l'adaptation des robots à leur environnement, afin de développer leur motricité. Adapter les robots à un...

Cinéma et Deepfake : zoom sur la synchronisation des lèvres avec le doublage en langue étrangère

Le deepfake est une technique reposant sur l'intelligence artificielle qui permet de superposer des fichiers audio ou vidéos sur d'autres fichiers déjà existants pour...

IA et Géopolitique : le comité AIDA du parlement européen propose son approche innovante sur le sujet

Le comité Artificial Intelligence in a Digital Age (AIDA) lié au parlement européen propose une étude sur l'intelligence artificielle et la diplomatie européenne. Intitulé...