IA et Cybersécurité : comprendre l’impact pour les entreprises

Début 2024 à Hong Kong, 200 millions de dollars locaux (soit près de 24 millions d’euros) ont été détournés des fonds d’une entreprise au profit de cybercriminels à l'aide d'un deepfake, une vidéo manipulée par des techniques d'intelligence artificielle, pour faire apparaître des personnes en train de dire ou de faire des choses qu'elles n'ont jamais dites ou faites… L’histoire débute ainsi : un salarié de la firme, collaborateur de la direction financière, reçoit un email l’invitant à une réunion en visioconférence avec son directeur financier et d’autres collègues. Le salarié a quelques doutes et pense à du phishing en raison d’une mention indiquant qu’il serait nécessaire d’effectuer une transaction. Mais ayant rejoint l’appel vidéo, il se sent rassuré : les autres participants ressemblent et parlent à des collègues qu’il reconnait. Convaincu, le salarié transfère les fonds demandés. 

Cette histoire, extraordinaire par le montant escroqué, n’est qu’un exemple d’une pratique qui s’est accentuée avec le développement du distanciel depuis la pandémie du Covid19 : grâce aux visioconférences, les cybercriminels ont pu récupérer de nombreuses données biométriques, c’est-à-dire des caractéristiques physiques, biologiques, voire comportementales permettant d'identifier une personne. Dans la même logique, des voix, vraies ou fausses, peuvent aussi être créées et juxtaposées sur les vidéos. Et une simple photo suffit pour en créer une nouvelle.

Technologie apprenante, le champ des possibles de l’IA semble infini. Dans notre quotidien mais aussi dans le champ des cyberattaques, les données étant de plus en plus nombreuses et accessibles. Reste qu’en matière de cybersécurité, la montée en puissance de l’IA est à double tranchant : si elle peut rendre plus efficaces les cyberattaques, elle permet aussi de détecter et de contrer les menaces.

Comme dans l’histoire racontée plus haut, les grands modèles de langage (LLM) ChatGPT, Dall-E et Midjourney servent de plus en plus aux hackers pour améliorer les techniques d’attaques en les rendant plus crédibles et ciblées. Mais l’IA leur permet aussi de livrer des cyberattaques plus sophistiquées. Elle rend aussi le hacking accessible à un plus grand nombre d’individus : il n’est plus vraiment besoin d’être un expert du codage. Enfin l’IA étant une technologie apprenante, la conception et le déploiement des cybermenaces est en évolution constante et rapide.

La bonne nouvelle est que cette réalité est identifiée par les services financiers des grandes entreprises, comme en témoigne une récente étude (Financial Census 2024) : les directeurs financiers des États-Unis et au Royaume-Uni identifient les deepfakes comme l’un des trois grands défis auxquels sont confrontés leur fonction. Les deepfakes, ces vidéos ou fichiers audio trompeurs car l’IA leur donne une apparence de véracité, sont, toujours selon cette étude, utilisés dans 53 % des attaques signalées. Enfin, pour 85 % des répondants, les deepfakes représentent un danger existentiel pour la sécurité financière et donc la sécurité des organisations. 

• Hameçonnage (phishing), hameçonnage ciblé (spearphishing) : dans ces cas de figure qui préexistaient à l'IA, celles-ci servent à générer des communications encore plus convaincantes. Dans l’hameçonnage, via une collecte de données issues des réseaux sociaux, des vulnérabilités sont identifiées et un site web malveillant ou des spams très crédibles peuvent être créés. Dans l’hameçonnage ciblé, le pirate tente de se faire passer pour une personne, une société ou un établissement avec lequel la cible a l’habitude de travailler afin de la rassurer et de la conduire à livrer des informations clés ou à réaliser une action spécifique.
  
• Les deepfakes constituent l’usurpation d’identité via l’IA la plus connue et la plus utilisée. La technologie dite machine learning est utilisée afin de produire des fausses vidéos (ou audio) les plus réalistes possibles et qui engendrent chez celui qui reçoit un deepfake la certitude de l'authenticité de la demande. Tel est le cas dans l’histoire narrée en introduction. Ou encore dans le champ politique, avec la vidéo et des images publiées par Donald Trump laissant à penser que la chanteuse Taylor Swift soutenait sa candidature. Cette technologie peut aussi être utilisée face à un logiciel de reconnaissance faciale afin de paralyser les mesures de cybersécurité d’une entreprise qui devient alors très vulnérable.
  
• Ingénierie sociale et chatbots factices : l’IA est ici utilisée pour créer des scénarios plus réalistes afin de tromper les victimes, par exemple des faux chatbots de support client.
  
• Création et installation de malwares ou logiciels malveillants polymorphes : l’IA sert ici à contourner des règles de sécurité en fournissant en temps réel ce qui est requis et à faire passer la requête comme légitime ou bénéfique. Ces logiciels malveillants ou malwares, assistés par l’IA, peuvent permettre d’injecter du code malveillant sur les appareils des utilisateurs, d'en prendre le contrôle, afin de voler des données ou de faciliter l’espionnage industriel.
  
• Corruption de logiciel ou Data poisoning attack : ces attaques par empoisonnement visent à modifier le comportement du système d’IA cible en introduisant des données corrompues en phase d’entraînement ou d’apprentissage. 

Parce que l’IA peut analyser un important volume de données en continu, rapidement et qu’elle apprend au fur et à mesure, elle peut faciliter la gestion des incidents, détecter de nouveaux risques de sécurité, aider à protéger les données et guider l’action humaine. Bref, faire gagner en efficacité. Ainsi, pour parvenir à détecter des activités anormales, identifier des activités inhabituelles et prévenir l’exploitation des failles, un grand nombre d’informations pertinentes doit être collecté, trié, structuré pour pouvoir ensuite les utiliser contre les cyberattaques. C’est sur le traitement et le tri de ces données qui ne cessent de croitre que l’IA peut apporter un vrai plus. Dans la gestion des incidents, elle peut permettre d’automatiser différentes étapes dont la modification des règles de pare-feu et aussi améliorer la priorisation des actions et réponses par exemple.

A date, l’IA est intégrée dans la lutte contre les cyberattaques dans des applications dont la typologie est la suivante :

• Analyse des comportements et apprentissage automatique pour détecter les menaces ;
• Repérage d’anomalies corrélées à des activités inhabituelles potentiellement dangereuses ;
• Solutions dédiées à la gestion des incidents afin d’améliorer la précision et le temps de réponse aux alertes ;
• Gestion des failles et neutralisation de logiciels malveillants ;
• Renforcement de la gestion des accès (authentification, mots de passe) ;
• - Identification automatique des vulnérabilités potentielles dans les systèmes et applications.

Se doter de solutions de sécurité intégrant l’IA fait sens mais cela ne fait pas tout. L’entreprise doit conserver ses bons réflexes dont le fait de dispenser régulièrement des formations en cybersécurité pour tous ses collaborateurs afin de les sensibiliser aux menaces nouvelles, de leur expliquer les bonnes pratiques ou réponses. C’est un point très important puisque l’erreur humaine demeure l’une des causes principales, si ce n’est la principale, des risques en termes de cybersécurité.

L’entreprise doit aussi veiller à évaluer régulièrement son exposition au risque cyber, un point crucial au regard de l’évolutivité de l’IA.

Dernier point mais pas le moindre au regard de l’importance des conséquences financières, réputationnelles et organisationnelles que peuvent engendrer des cyberattaques, l’assurance. Une protection cyber efficace dépasse la seule couverture financière et doit aider l’entreprise à se protéger.
Elle doit donc lui permettre de s’améliorer sur tous les niveaux requis à savoir :

• la sensibilisation des collaborateurs,
• l’évaluation de la stratégie de cybersécurité de l’entreprise afin d’identifier ses vulnérabilités, et donc proposer une feuille de route et des solutions,
• une préparation en cas d’attaques : les choses à faire et à ne pas faire,
• une assistance d'urgence en cas d'attaque,
• une capacité à l’accompagner face à l’évolutivité des cyberattaques et des enjeux de la cybersécurité.
   

C’est le cas de Marsh France avec son offre Protection Cyber, acteur de référence avec lequel La Banque Postale a noué un partenariat.