Intelligence artificielle Une cyberattaque pourrait bien faire grimper la consommation d'électricité des systèmes d'intelligence...

Pour approfondir le sujet

Sur le même thème :

Facebook AI annonce deux découvertes liées à la vision par ordinateur et à l’apprentissage supervisé

Facebook AI a annoncé en fin de semaine dernière deux découvertes jugées comme majeures en matière d'intelligence artificielle et de vision par ordinateur. Ces...

Une équipe de recherche du MIT développe une fibre textile intelligente qui stocke et analyse des données

Plusieurs chercheurs du Massachusetts Institute of Technology (MIT) ont conçu une fibre dotée de capacités numériques grâce à un réseau de neurones artificiels. Celle-ci...

Intelligence artificielle : la reconnaissance d’expressions faciales peut-elle être universelle ?

Dans chaque pays du monde, pour exprimer nos sentiments, nos émotions ou parfois même une idée, nous utilisons certaines expressions faciales. Toutefois, ces mimiques...

Une interface cerveau-machine permet à des personnes handicapées d’écrire grâce à la pensée

Des chercheurs de l'Université de Stanford ont conçu une interface cerveau-machine (ICM) innovante. Cette interface neuronale directe permettra à son utilisateur d'écrire des mots...

Une cyberattaque pourrait bien faire grimper la consommation d’électricité des systèmes d’intelligence artificielle

Ces dernières années, des efforts ont été réalisés pour réduire la demande énergétique des systèmes d’IA, ce qui a conduit à une restructuration des méthodes utilisées. Toutefois, une équipe de chercheurs vient de découvrir que cette structure peut être attaquée afin de faire en sorte que la machine travaille beaucoup plus et réalise par conséquent beaucoup plus de calculs. Une cyberattaque de ce type pourrait faire monter en flèche la consommation d’électricité et donc, être à l’opposé de ce que le modèle proposait à l’origine.

Un modèle permettant de réduire la consommation d’électricité des systèmes d’IA

L’énorme consommation d’énergie des grands modèles d’IA a conduit les chercheurs à concevoir des réseaux de neurones plus efficaces. Une des solutions proposées consiste à utiliser des systèmes multi-agents adaptatifs qui fonctionnent en divisant les tâches à effectuer par rapport à leur difficulté de résolution. Ensuite, l’outil dépense le moins de ressources possible pour réaliser chacune d’entre elles.

Prenons l’exemple de deux photographies : l’une montrant un homme debout au sein d’un paysage totalement dégagé et l’autre avec le même homme qui, cette fois-ci, est assis dans un paysage beaucoup plus complexe. Un réseau de neurones classique ferait passer les deux photos par toutes ses couches et dépenserait la même quantité de puissance de calcul pour étiqueter chacune des deux images. Mais le système multiagent adaptatif va faire en sorte que la photo plus facile à étiqueter (la première) ne passe que par une ou deux couches, ce qui est tout à fait nécessaire pour réaliser la tâche.

Cela réduit l’empreinte carbone du modèle d’IA, améliore également sa vitesse et lui permet d’être déployé dans de petits appareils tels que les smartphones et les haut-parleurs intelligents. Mais ce type de réseau de neurones implique que si l’on modifie l’entrée, c’est-à-dire l’image qu’il reçoit, on pourrait modifier la quantité de calcul dont nous aurions besoin pour le résoudre, ce qui rend le système vulnérable.

Une cyberattaque qui s’en prend aux réseaux de neurones profonds

De la même manière qu’une attaque par déni de service (DDoS), cette cyberattaque cherche à obstruer un réseau afin de le rendre inutilisable. Le réseau de neurones profond du modèle est obligé d’utiliser beaucoup plus de ressources de calcul que nécessaire afin de ralentir son processus de “réflexion”. Sanghyun Hong, Yiğitcan Kaya, Ionuţ-Vlad Modoranu et Tudor Dumitraş, chercheurs à l’Université du Maryland pour le Maryland Cybersecurity Center, ont remarqué cette vulnérabilité dans le cadre de leur étude portant sur les réseaux de neurones profonds (DNN) et les attaques qu’ils peuvent subir.

Dans le cadre d’une expérience, ils ont généré des interférences à l’entrée d’un DNN ce qui a forcé le système à augmenter sa puissance de calcul nécessaire à la réalisation d’une tâche. Même si la personne qui pirate le modèle ne dispose que d’informations limitées sur celui-ci, les chercheurs ont déduit qu’il était tout de même capable de ralentir le traitement du réseau et d’augmenter la consommation d’énergie de 20 à 80%. Cela est dû au fait que les attaques peuvent se transférer facilement via différents types de réseaux de neurones.

Toutefois, ce genre d’attaque est encore assez théorique et ces études font figure de mise en garde. Les systèmes multi-agents adaptatifs sont voués à être plus fréquemment utilisés notamment dans l’IoT.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Le groupe Manutan investit dans la Robotic Process Automatisation pour dynamiser son département Finances

Manutan, fournisseur européen de produits et services aux entreprises et aux collectivités et spécialiste du e-commerce BtoB, investit dans la Robotic Process Automatisation (RPA)...

Spice AI veut faciliter l’intégration de l’intelligence artificielle dans les applications

Spice AI, startup basée à Seattle, a pour objectif de faciliter le travail des développeurs lors du développement d'applications intelligentes. Bien que l'IA ait...

Podcast : L’université Paris Dauphine-PSL dévoile le premier épisode de « EX MACHINA, l’ère des algorithmes »

"IA : qui sont les humains derrière la machine ?", c'est le titre du tout premier podcast d'EX MACHINE, lancé par l'université Paris Dauphine-PSL....

Les startups Manitty, PaIRe et Beyond Aero récompensées lors de la 11e édition du prix Jean-Louis Gerondeau – Safran

Manitty, PaIRe et Beyond Aero sont les startups lauréates du prix Jean-Louis Gerondeau - Safran 2021. Leurs innovations dans les domaines de l’aéronautique, des...