L’intelligence artificielle s’invite au Forum InCyber

Au cours des deux dernières années, l’intelligence artificielle s’est invitée, de manière accélérée, dans presque tous les domaines d’activités.

En matière d’innovations autour de ce sujet, la cybersécurité ne fait pas défaut. C’est donc sans surprise que l’IA aura été le thème principal de l’édition 2024 du Forum InCyber (FIC) qui a réuni près de 20 000 participants du 26 au 28 mars à Lille, sous la bannière « Ready for IA ? Réinventer la cybersécurité à l’heure de l’IA. »

Les experts Grant Thornton en matière de cybersécurité étaient présents et ont échangé avec leurs pairs et confrères pendant la durée du Forum InCyber.
Quelques enseignements :

Utiliser les mêmes armes que les attaquants

La cybersécurité peut parfois ressembler à un éternel jeu du chat et de la souris dans lequel les équipes de défense doivent continuellement lutter pour contrer les nouvelles techniques employées par les attaquants. Ce thème a été abordé au cours de plusieurs conférences et tables rondes, étayant le fait que les attaquants se sont rapidement plongés dans la multitude d’opportunités offertes par l’IA pour faciliter la réalisation d’attaques toujours plus sophistiquées. Il s’agit évidemment des campagnes de phishing ou de fraudes au président qui deviennent plus difficiles à détecter par l’humain, qui est souvent le dernier rempart – qu’il s’agisse du formatage des messages, de l’intégration d’éléments de contexte, de l’utilisation de technologies de clonage de la voix ou de la vidéo, etc.

L’utilisation de l’IA par les attaquants porte également sur un plus large panel de techniques tel que l’apprentissage des systèmes de défense pour mieux les contourner. En résumé, les attaquants ont trouvé avec l’IA une nouvelle brèche qui semble inépuisable en matière d’innovations. Fort heureusement, les acteurs qui contribuent à la défense ont également largement emboîté le pas.

En effet, parmi les 700 partenaires de cette exposition, rares étaient ceux dont le stand ou le discours n’abordaient pas la notion d’intelligence artificielle. Dans les faits, pour avoir questionné de nombreux offreurs, il s’avère que la plupart en sont généralement aux prémices d’utiliser réellement l’intelligence artificielle. Toutefois, même si les implémentations ne sont pas toujours effectives aujourd’hui, les cas d’usage sont généralement bien identifiés avec notamment pour levier une amélioration de la qualité du service rendu et des économies opérationnelles. La principale difficulté réside souvent dans la capacité à disposer de suffisamment de données d’entrée pour entraîner efficacement des modèles.
A titre d’exemple, dans le domaine de l’audit de code, les ressources publiquement disponibles sont généralement suffisantes pour produire des modèles capables d’identifier des vulnérabilités. D’autres champs d’application, tels que la détection d’attaques, bénéficient de jeux de données beaucoup plus restreints – car confidentiels et rarement partagés par les victimes – et qui doivent donc être complétés par des simulations dont la pertinence peut être questionnable.

Pallier la pénurie de ressources en cybersécurité grâce à l’IA

Malgré l’explosion du nombre de formations en cybersécurité au cours des dernières années (majeures de spécialisation en écoles d’ingénieurs, masters spécialisés, etc.), le marché subit toujours une pénurie de profils compétents dans ce domaine pour faire face à la croissance des attaques et aux besoins de mise en conformité imposés par différents cadres réglementaires récents.

Ce thème, qui a été repris au cours des conférences et tables rondes, est aussi le fer de lance de nombreux éditeurs de logiciels ou prestataires de services qui voient dans l’IA, un levier considérable pour alléger la charge de travail des experts. Dans ce domaine, il ressort que l’IA fait déjà nettement ses preuves sur un ensemble de tâches récurrentes très diverses (aide à la qualification des tickets d’incidents de sécurité, analyse de code source, formalisation de rapports de tests d’intrusion, etc.). Pour autant, ce levier soulève différents risques qui ont été pointés par les intervenants, tels que :

• La potentielle dégradation de la qualité si l’assistance apportée par l’IA vise non pas à permettre aux experts de traiter un terrain plus large, mais plutôt à remplacer des profils moins aguerris et, in fine, moins aptes à combler les éventuelles faiblesses qu’une IA peut présenter,
• La possibilité pour une IA d’être trompée via des « attaques par exemples contradictoires » (adversarial examples attacks), en particulier sur des scénarios de détections automatisées de comportements inattendus.

Il conviendra donc d’employer l’intelligence artificielle à bon escient afin d’en tirer le meilleur parti en matière de levier pour optimiser la gestion des ressources humaines sans introduire de nouveaux risques qui pourraient résulter d’une confiance résolument aveugle.

L’audit des IA

Au cours des dernières années, la course à l’innovation autour de l’intelligence artificielle a parfois été réalisée en oubliant rapidement le concept de secure by design. Ceci a conduit à diverses situations regrettables dont certaines ont été illustrées lors de la session « Panorama de la cybercriminalité » présentée par le CLUSIF. Les exemples sont nombreux, mais on peut notamment citer :

• La compromission de 100 000 comptes ChatGPT, offrant ainsi l’accès à l’historique des sessions de chat et des données partagées par les utilisateurs concernés,
• Toujours chez ChatGPT, la possibilité de récupérer des données sensibles d’entraînement en demandant simplement au chat de répéter un mot à l’infini.

La question de l’audit des intelligences artificielles a donc été évoquée par plusieurs orateurs qui expliquent que la tendance actuelle est pilotée par le time-to-market en omettant assez systématiquement les considérations à observer.

Conclusion

L’utilisation de l’IA dans le domaine de la cybersécurité était autrefois une perspective qui laissait de nombreux experts très dubitatifs. Toutefois, il ressort que les avancées au cours des deux dernières années ont été considérables et ont permis de rebattre les cartes.

Cette nouvelle édition du Forum InCyber qui était résolument tournée vers les opportunités liées à l’utilisation de l’intelligence artificielle a permis d’observer une adhésion massive de cette technologie par le marché de la cybersécurité. Beaucoup de sujets sont encore balbutiants avec des acteurs qui se cherchent sur ce sujet pour orienter au mieux leur stratégie.

Il reste évidemment beaucoup à faire pour exploiter au mieux cette ressource. Toutefois, nous ne sommes manifestement qu’au tout début d’une révolution dont l’ascension récente a été fulgurante tant au niveau des attaquants que des défenseurs.