Intelligence artificielle Des chercheurs proposent une solution de détection d'images générées en deep learning

Pour approfondir le sujet

Sur le même thème :

Des chercheurs du MIT présentent un outil de deep learning pour analyser la contrainte des matériaux à partir de photos

Des chercheurs du Massachusetts Institute of Technology (MIT) ont présenté plus tôt ce mois-ci un outil d'intelligence artificielle. Ce modèle de deep learning permettra de...

Une équipe de chercheurs présente une intelligence artificielle différenciant les oiseaux d’une même espèce

Une équipe de scientifiques CNRS/ Université de Montpellier/ Université Paul-Valéry-Montpellier/ IRD/ EPHE/ CIBIO à l’Université de Porto ont présenté les résultats de leurs recherches sur...

Intel AI Summit : Deux nouveaux ASICs orientés vers l’accélération des tâches d’intelligence artificielle

Ce mardi 12 novembre, Intel organisait son Intel AI Summit 2019 à San Francisco aux États-Unis. L'occasion pour le groupe de faire plusieurs annonces...

Chronopost et ILLUIN Technology : l’intelligence artificielle au service des livraisons

La société Chronopost a annoncé son entrée au capital d'ILLUIN Technology, concepteur de projets innovants autour de l'intelligence artificielle. Cette prise de participation à...

Des chercheurs proposent une solution de détection d’images générées en deep learning

Dans un article publié sur Arxiv, les chercheurs Haodong Li, Bin Li, Shunquan Tan, Jiwu Huang de l’Université de Shenzhen ont dévoilé une méthode de détection d’images générées par des réseaux de neurones profonds.

Bin Li, de l’équipe en charge de ce projet a précisé à TechXplore :

“Avec l’apparition de modèles avancés de génération d’images, tels que les réseaux antagonistes génératifs (en anglais generative adversarial networks ou GANs) et les autoencodeurs variationnels, les images générées par des réseaux profonds deviennent de plus en plus réalistes et il n’est plus aussi évident de les identifier avec des yeux humains, ce qui implique des risques sérieux au niveau de la sécurité.”

Le réalisme des images générées grâce au deep learning permet désormais de tromper facilement non seulement l’oeil humain mais aussi les systèmes d’authentification d’images. Multiplication des fake news, des images truquées, cet hyper-réalisme pose également des problèmes et risques de sécurité majeurs. Les chercheurs de l’Université de Shenzhen ont souhaité proposer une méthode de vérification basée sur le deep learning.

Dans leur article, ils ont traité la question de la détection d’images DNG (Deep Network Generated) en analysant les disparités de composantes de couleurs entre des images de scènes réelles et des images DNG. Leur hypothèse de base est centrée sur le fait que les réseaux de neurones profonds existants génèrent des images dans un espace colorimétrique RVB. Ils ne sont donc soumis à aucune contrainte explicite sur les corrélations de couleurs.

Par conséquent, les images DNG présentent des différences plus évidentes par rapport aux images réelles dans d’autres espaces couleur, tels que HSV (hue saturation value) et YCbCr, en particulier dans les composantes de chrominance. Cela signifie notamment que les images DNG sont différentes des images réelles en ce qui concerne les composantes rouge, vert et bleu.

Sur la base de ces observations, les chercheurs ont proposé un ensemble de fonctionnalités permettant de capturer les statistiques des couleurs d’une image pour détecter les images DNG. Leur étude, disponible sur Arxiv, propose trois scénarios de détection différents ainsi que les stratégies de détection correspondantes. L’équipe a également mené des expériences approfondies sur des jeux de données d’images de visage afin d’évaluer l’efficacité de la méthode proposée. Les résultats expérimentaux montrent que la méthode qu’ils ont développée permet de distinguer les images DNG des images réelles avec une grande précision.

“La découverte la plus significative de notre étude réside dans le fait que les images générées par des réseaux profonds peuvent être facilement détectées en extrayant des caractéristiques de certaines composantes de couleur, alors que les images générées ne puissent pas être distinguées visuellement par l’homme.

Lorsque des échantillons d’image générées ou des modèles générateurs d’images sont disponibles, les fonctionnalités proposées, équipées d’un classificateur binaire, peuvent efficacement différencier les images générées des images réelles. Lorsque les modèles sont inconnus, les fonctionnalités proposées ainsi qu’un classificateur à classe unique peuvent également donner des résultats satisfaisants” a expliqué Haodong Li à TechXplore.

“Nous prévoyons d’améliorer les performances de la génération d’images en appliquant les résultats de cette recherche à des modèles générateurs d’images”, a déclaré de son coté le chercheur Jiwu Huang. “Par exemple, inclure des métriques de disparité des composants de couleur pour les images réelles et générées dans la fonction objectif d’un modèle GAN pourrait produire des images plus réalistes.

Nous allons également essayer d’exploiter d’autres informations inhérentes au pipeline de génération d’images réelles, telles que les motifs de bruit d’un capteur, ou les propriétés d’un tableau de filtre de couleur, afin de développer des méthodes plus efficaces et plus robustes pour identifier les images générées.”

 
Thomas Calvi

Partager l'article

Allemagne : T-Systems s’associe à Envision Digital pour réduire les émissions de carbone

Le 4 août dernier, Deutsche Telekom, un des leaders mondiaux des télécommunications intégrées, a annoncé que sa filiale T-Systems s’associera à la société  chinoise...

Enquête Premier emploi 2022 de Telecom Paris : des ingénieurs recherchés et bien rémunérés

Télécom Paris, école de l'Institut Mines-Télécom et membre fondateur de l'Institut Polytechnique de Paris, forme des ingénieurs généralistes du numérique. Elle a récemment publié...

Canada : l’utilisation de l’intelligence artificielle reste faible au sein des entreprises selon les RH

Les ressources humaines (RH) ont un rôle important au sein des entreprises. Au Canada, l’Ordre des conseillers en ressources humaines agréés (CHRA) a mené...

Focus sur le projet de recherche européen HosmartAI « Hospital Smart development based on AI »

Le projet de recherche européen HosmartAI a pour objectif de doter l'Europe d'un système de santé fort, efficient, durable et résilient, bénéficiant des capacités...
Recevoir une notification en cas d'actualité importante    OK Non merci