Intelligence artificielle Une cyberattaque pourrait bien faire grimper la consommation d'électricité des systèmes d'intelligence...

Pour approfondir le sujet

Sur le même thème :

Facebook AI annonce deux découvertes liées à la vision par ordinateur et à l’apprentissage supervisé

Facebook AI a annoncé en fin de semaine dernière deux découvertes jugées comme majeures en matière d'intelligence artificielle et de vision par ordinateur. Ces...

Une équipe de recherche du MIT développe une fibre textile intelligente qui stocke et analyse des données

Plusieurs chercheurs du Massachusetts Institute of Technology (MIT) ont conçu une fibre dotée de capacités numériques grâce à un réseau de neurones artificiels. Celle-ci...

Intelligence artificielle : la reconnaissance d’expressions faciales peut-elle être universelle ?

Dans chaque pays du monde, pour exprimer nos sentiments, nos émotions ou parfois même une idée, nous utilisons certaines expressions faciales. Toutefois, ces mimiques...

Une interface cerveau-machine permet à des personnes handicapées d’écrire grâce à la pensée

Des chercheurs de l'Université de Stanford ont conçu une interface cerveau-machine (ICM) innovante. Cette interface neuronale directe permettra à son utilisateur d'écrire des mots...

Une cyberattaque pourrait bien faire grimper la consommation d’électricité des systèmes d’intelligence artificielle

Ces dernières années, des efforts ont été réalisés pour réduire la demande énergétique des systèmes d’IA, ce qui a conduit à une restructuration des méthodes utilisées. Toutefois, une équipe de chercheurs vient de découvrir que cette structure peut être attaquée afin de faire en sorte que la machine travaille beaucoup plus et réalise par conséquent beaucoup plus de calculs. Une cyberattaque de ce type pourrait faire monter en flèche la consommation d’électricité et donc, être à l’opposé de ce que le modèle proposait à l’origine.

Un modèle permettant de réduire la consommation d’électricité des systèmes d’IA

L’énorme consommation d’énergie des grands modèles d’IA a conduit les chercheurs à concevoir des réseaux de neurones plus efficaces. Une des solutions proposées consiste à utiliser des systèmes multi-agents adaptatifs qui fonctionnent en divisant les tâches à effectuer par rapport à leur difficulté de résolution. Ensuite, l’outil dépense le moins de ressources possible pour réaliser chacune d’entre elles.

Prenons l’exemple de deux photographies : l’une montrant un homme debout au sein d’un paysage totalement dégagé et l’autre avec le même homme qui, cette fois-ci, est assis dans un paysage beaucoup plus complexe. Un réseau de neurones classique ferait passer les deux photos par toutes ses couches et dépenserait la même quantité de puissance de calcul pour étiqueter chacune des deux images. Mais le système multiagent adaptatif va faire en sorte que la photo plus facile à étiqueter (la première) ne passe que par une ou deux couches, ce qui est tout à fait nécessaire pour réaliser la tâche.

Cela réduit l’empreinte carbone du modèle d’IA, améliore également sa vitesse et lui permet d’être déployé dans de petits appareils tels que les smartphones et les haut-parleurs intelligents. Mais ce type de réseau de neurones implique que si l’on modifie l’entrée, c’est-à-dire l’image qu’il reçoit, on pourrait modifier la quantité de calcul dont nous aurions besoin pour le résoudre, ce qui rend le système vulnérable.

Une cyberattaque qui s’en prend aux réseaux de neurones profonds

De la même manière qu’une attaque par déni de service (DDoS), cette cyberattaque cherche à obstruer un réseau afin de le rendre inutilisable. Le réseau de neurones profond du modèle est obligé d’utiliser beaucoup plus de ressources de calcul que nécessaire afin de ralentir son processus de “réflexion”. Sanghyun Hong, Yiğitcan Kaya, Ionuţ-Vlad Modoranu et Tudor Dumitraş, chercheurs à l’Université du Maryland pour le Maryland Cybersecurity Center, ont remarqué cette vulnérabilité dans le cadre de leur étude portant sur les réseaux de neurones profonds (DNN) et les attaques qu’ils peuvent subir.

Dans le cadre d’une expérience, ils ont généré des interférences à l’entrée d’un DNN ce qui a forcé le système à augmenter sa puissance de calcul nécessaire à la réalisation d’une tâche. Même si la personne qui pirate le modèle ne dispose que d’informations limitées sur celui-ci, les chercheurs ont déduit qu’il était tout de même capable de ralentir le traitement du réseau et d’augmenter la consommation d’énergie de 20 à 80%. Cela est dû au fait que les attaques peuvent se transférer facilement via différents types de réseaux de neurones.

Toutefois, ce genre d’attaque est encore assez théorique et ces études font figure de mise en garde. Les systèmes multi-agents adaptatifs sont voués à être plus fréquemment utilisés notamment dans l’IoT.

 
Zacharie Tazrout

Partager l'article

Le Conseil de l’UE invite les Etats Membres à poursuivre leurs efforts dans la lutte contre le terrorisme

Début juin, le Conseil de l'UE a adopté des conclusions sur les actions accomplies et les prochaines étapes à franchir pour assurer la protection...

Village by CA Paris dévoile les duos lauréats des « Village Awards 2022 »

Le 30 juin dernier, le Village by CA Paris a organisé la cinquième édition des Village Awards en collaboration avec Les Echos Entrepreneurs et...

Focus sur les recommandations de la CNCDH visant à promouvoir un encadrement juridique ambitieux de l’IA

Le 21 avril 2021, la Commission Européenne présentait son projet de réglementation de l'IA. Plus récemment, en décembre dernier, la Slovénie qui assurait alors...

Le groupe La Poste investit 800 millions d’euros dans sa « Branche Grand Public et Numérique »

Dans le cadre du plan stratégique « La Poste 2030, engagée pour vous », le groupe La Poste a créé, en 2021, la Branche...
Recevoir une notification en cas d'actualité importante    OK Non merci