Etude Capgemini : IA, GenAI et cybersécurité, une adoption à double tranchant

Alors que les cyberattaques se multiplient et que les organisations alertent leurs clients sur le vol de leurs données personnelles, le Capgemini Research Institute vient de publier un rapport intitulé "New Defenses, New Threats: What AI and Gen AI Bring to Cybersecurity”, révélant comment l'IA et la GenAI transforment les stratégies de cybersécurité des organisations. L'étude met en évidence un paradoxe : bien que ces technologies ouvrent la porte à de nouvelles vulnérabilités au sein des organisations, elles sont devenues essentielles aux stratégies de cyberdéfense. Ce dernier rapport s'appuie sur une enquête mondiale auprès de 1 000 organisations dans 12 secteurs et 13 pays en Asie-Pacifique, en Europe et en Amérique du Nord, ayant des revenus annuels de 1 milliard de dollars et plus. Selon une précédente étude du Capgemini Research Institute, près d’un quart (24 %) des entreprises utilisent désormais la GenAI dans certaines ou la plupart de leurs fonctions et sites, en tirant d'ailleurs des avantages, notamment une efficacité opérationnelle améliorée, une expérience client améliorée et une augmentation des ventes. Alors que l’IA est considérée par 61% des organisations interrogées comme une technologie essentielle pour renforcer leurs stratégies de sécurité, cette adoption accrue augmente également les vulnérabilités, en exposant les entreprises à de nouveaux types de menaces. Les organisations font désormais face à des attaques de plus en plus sophistiquées, comme la création de logiciels malveillants, les ransomwares ou le phishing, ainsi qu'à une extension de la surface de cyber-attaque et des vulnérabilités tout au long du cycle de vie des solutions d'IA générative. En outre, l'utilisation abusive de l'IA en interne par les employés peut augmenter le risque de fuite de données.

Les défis de l'adoption de la GenAI

Une écrasante majorité des organisations interrogées (97 %) dit avoir rencontré des violations ou des problèmes de sécurité liés à l’utilisation de l’IA générative au cours de l’année écoulée. Près de 43% ont subi des pertes financières dues à l'utilisation de deepfakes. Deux organisations sur trois (67%) s'inquiètent de possibles contaminations de données et de fuite de données sensibles par le biais des données utilisées pour entraîner les modèles d'IA générative. Pour faire face à ces défis, près de 6 organisations sur 10 envisagent d'augmenter leur budget de cybersécurité.

Un rôle clé dans la détection et la remédiation

Malgré ces risques, les bénéfices de l’IA et de la GenAI en matière de cybersécurité sont indéniables. La majorité des organisations interrogées utilisent l'IA pour renforcer la sécurité de leurs données, applications et cloud, en raison de sa capacité à analyser rapidement des volumes massifs de données et à prédire les attaques potentielles. Plus de 60% rapportent une réduction significative du temps de détection et près de 40 % ont constaté une diminution du temps de réponse aux incidents.

Comment équilibrer innovation et sécurité ?

Marco Pereira, à la tête de la Cybersécurité des services Cloud Infrastructure du groupe Capgemini, apporte son analyse : "L'utilisation des technologies d'IA et d'IA générative s'est jusqu'à présent révélé être à double tranchant. D’un côté, la prolifération de l'IA introduit des risques sans précédent ; de l’autre, les organisations s'appuient de plus en plus sur la technologie pour une détection plus rapide et plus précise des cyber incidents. L'IA et l'IA générative fournissent aux équipes de sécurité de nouveaux outils puissants pour limiter ces incidents et transformer leurs stratégies de cyberdéfense. Pour s'assurer qu'elles représentent un avantage significatif face à des menaces de plus en plus sophistiquées, les organisations doivent maintenir et prioriser une surveillance continue de l’évolution des menaces et de la cybersécurité, construire une infrastructure de gestion des données appropriée, mettre en place des cadres et lignes directrices éthiques pour l'adoption de l'IA, ainsi que des programmes robustes de formation et de sensibilisation de leurs employés". Retrouver le rapport ici .