Intelligence artificielle Une cyberattaque pourrait bien faire grimper la consommation d'électricité des systèmes d'intelligence...

Pour approfondir le sujet

Sur le même thème :

Facebook AI annonce deux découvertes liées à la vision par ordinateur et à l’apprentissage supervisé

Facebook AI a annoncé en fin de semaine dernière deux découvertes jugées comme majeures en matière d'intelligence artificielle et de vision par ordinateur. Ces...

Une équipe de recherche du MIT développe une fibre textile intelligente qui stocke et analyse des données

Plusieurs chercheurs du Massachusetts Institute of Technology (MIT) ont conçu une fibre dotée de capacités numériques grâce à un réseau de neurones artificiels. Celle-ci...

Intelligence artificielle : la reconnaissance d’expressions faciales peut-elle être universelle ?

Dans chaque pays du monde, pour exprimer nos sentiments, nos émotions ou parfois même une idée, nous utilisons certaines expressions faciales. Toutefois, ces mimiques...

Une interface cerveau-machine permet à des personnes handicapées d’écrire grâce à la pensée

Des chercheurs de l'Université de Stanford ont conçu une interface cerveau-machine (ICM) innovante. Cette interface neuronale directe permettra à son utilisateur d'écrire des mots...

Une cyberattaque pourrait bien faire grimper la consommation d’électricité des systèmes d’intelligence artificielle

Ces dernières années, des efforts ont été réalisés pour réduire la demande énergétique des systèmes d’IA, ce qui a conduit à une restructuration des méthodes utilisées. Toutefois, une équipe de chercheurs vient de découvrir que cette structure peut être attaquée afin de faire en sorte que la machine travaille beaucoup plus et réalise par conséquent beaucoup plus de calculs. Une cyberattaque de ce type pourrait faire monter en flèche la consommation d’électricité et donc, être à l’opposé de ce que le modèle proposait à l’origine.

Un modèle permettant de réduire la consommation d’électricité des systèmes d’IA

L’énorme consommation d’énergie des grands modèles d’IA a conduit les chercheurs à concevoir des réseaux de neurones plus efficaces. Une des solutions proposées consiste à utiliser des systèmes multi-agents adaptatifs qui fonctionnent en divisant les tâches à effectuer par rapport à leur difficulté de résolution. Ensuite, l’outil dépense le moins de ressources possible pour réaliser chacune d’entre elles.

Prenons l’exemple de deux photographies : l’une montrant un homme debout au sein d’un paysage totalement dégagé et l’autre avec le même homme qui, cette fois-ci, est assis dans un paysage beaucoup plus complexe. Un réseau de neurones classique ferait passer les deux photos par toutes ses couches et dépenserait la même quantité de puissance de calcul pour étiqueter chacune des deux images. Mais le système multiagent adaptatif va faire en sorte que la photo plus facile à étiqueter (la première) ne passe que par une ou deux couches, ce qui est tout à fait nécessaire pour réaliser la tâche.

Cela réduit l’empreinte carbone du modèle d’IA, améliore également sa vitesse et lui permet d’être déployé dans de petits appareils tels que les smartphones et les haut-parleurs intelligents. Mais ce type de réseau de neurones implique que si l’on modifie l’entrée, c’est-à-dire l’image qu’il reçoit, on pourrait modifier la quantité de calcul dont nous aurions besoin pour le résoudre, ce qui rend le système vulnérable.

Une cyberattaque qui s’en prend aux réseaux de neurones profonds

De la même manière qu’une attaque par déni de service (DDoS), cette cyberattaque cherche à obstruer un réseau afin de le rendre inutilisable. Le réseau de neurones profond du modèle est obligé d’utiliser beaucoup plus de ressources de calcul que nécessaire afin de ralentir son processus de “réflexion”. Sanghyun Hong, Yiğitcan Kaya, Ionuţ-Vlad Modoranu et Tudor Dumitraş, chercheurs à l’Université du Maryland pour le Maryland Cybersecurity Center, ont remarqué cette vulnérabilité dans le cadre de leur étude portant sur les réseaux de neurones profonds (DNN) et les attaques qu’ils peuvent subir.

Dans le cadre d’une expérience, ils ont généré des interférences à l’entrée d’un DNN ce qui a forcé le système à augmenter sa puissance de calcul nécessaire à la réalisation d’une tâche. Même si la personne qui pirate le modèle ne dispose que d’informations limitées sur celui-ci, les chercheurs ont déduit qu’il était tout de même capable de ralentir le traitement du réseau et d’augmenter la consommation d’énergie de 20 à 80%. Cela est dû au fait que les attaques peuvent se transférer facilement via différents types de réseaux de neurones.

Toutefois, ce genre d’attaque est encore assez théorique et ces études font figure de mise en garde. Les systèmes multi-agents adaptatifs sont voués à être plus fréquemment utilisés notamment dans l’IoT.


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
 
Zacharie Tazrout

Partager l'article

Covid-19 : Focus sur Early Warning System (EWS) développé par BioNTech et InstaDeep pour détecter les variants à haut risque du SARS-CoV-2

En ce moment, nous entendons beaucoup parler de Delta et Omicron, les deux variants circulant le plus en France, mais on est loin d'imaginer...

La CNIL lance une consultation publique sur l’usage des caméras intelligentes dans les espaces publics

Devant la recrudescence des caméras intelligentes ou augmentées dans les espaces publics et les problèmes éthiques ou juridiques que ces dispositifs posent, la CNIL,...

Est-ce que Python est sécurisé ? Etude réalisée par Snyk

Selon une étude réalisée par Snyk, aujourd'hui, 43 % de toutes les fuites de données sont directement liées à des vulnérabilités découvertes au sein...

Bouches-du-Rhône et Var : 12 000 piscines non déclarées détectées grâce à l’Intelligence Artificielle

Il y a et il y aura toujours des fraudeurs... L'intelligence artificielle va permettre de repérer ceux qui ont «omis» de déclarer certains bâtis...
Recevoir une notification en cas d'actualité importante    OK Non merci