Comment réinventer la cybersécurité à l’ère de l’intelligence artificielle ? - Partie 1/2

19 Septembre 2023, 12h – 14h
Campus Région du Numérique, 69260 Charbonnières-les-Bains 

Partie 1/2 - Club Cybersécurité

Comment réinventer la cybersécurité à l’ère de l’intelligence artificielle ? 

 Intervenants :
Laurent Hausermann, Cyber Builders
Jean-Luc Marini, OpenStudio
Jérémy Boiraud, OpenStudio

Nota Bene : le résumé ci-dessous est le produit de la retranscription écrite générée par la visioconférence Teams, puis retravaillé à l’aide de ChatGPT 4. Il a enfin bénéficié d’un travail de réécriture effectué Laurent Païta. Ce résumé a été validé par plusieurs intervenants / référents du Club Experts Cybersécurité.​

Evolution de l'IA & liens avec la cybersécurité

Depuis les années 2000, le machine learning est largement utilisé, notamment dans le domaine de la cybersécurité pour classifier des éléments tels que les spams. Pour ce faire, on utilise des caractéristiques spécifiques (features) extraites des données, comme la forme des mails, la provenance des IP, etc… Ces caractéristiques alimentent ensuite un algorithme d'apprentissage supervisé qui est entraîné à distinguer les mails légitimes des spams.

En 2010, une évolution majeure est survenue avec l'introduction du deep learning. Ce dernier, propulsé par les puissantes capacités de calcul des GPU, nécessite des volumes importants de données et une intervention humaine substantielle, généralement de data scientists, pour son entraînement. 

Cependant, une révolution est en cours avec l'arrivée des modèles génératifs, qui encodent une immense quantité de connaissances en utilisant des méthodes comme la distillation. Ces modèles, après un entraînement initial sur des milliards de données, peuvent être affinés pour des tâches spécifiques. Par exemple, ils peuvent être formés pour dialoguer de manière civilisée et structurée. Le principal avantage de cette approche est qu'elle réduit considérablement la nécessité d'une équipe de data scientists et d'énormes ensembles de données. 

L'implémentation de ces modèles est désormais plus rapide, et leur flexibilité ouvre la voie à de nouvelles applications dans divers domaines.

La cybersécurité est un domaine très technique et expert. De nombreux professionnels sont confrontés à des outils compliqués, à des rapports souvent obscurs ou à des alertes pas toujours claires. Avoir une IA qui puisse traduire ces informations complexes en quelque chose de plus digeste pour un public moins expert est d'une grande aide. Cela permet non seulement de faciliter la prise de décision, mais aussi de former les moins experts et de les sensibiliser à des enjeux qu'ils ne comprenaient pas nécessairement avant.

C'est vraiment ce potentiel de facilitateur et de médiateur que l'IA, surtout les modèles génératifs, peut apporter. Il peut être utilisé comme un intermédiaire entre la complexité du monde de la cyber et l'utilisateur final. L'approche générative, grâce à sa capacité à générer du texte ou des explications à partir d'exemples, est particulièrement adaptée à cela.

Mais comme cela a été souligné, il ne faut pas perdre de vue que l’IA n'est qu'un outil. C'est une machine sans conscience, sans intentions. Elle ne remplace pas l'humain, mais elle peut l'aider à mieux comprendre, à mieux agir et être plus efficace. 

L'erreur serait de lui donner trop de pouvoir ou de responsabilité, ou de la considérer comme une entité consciente. La clé est de savoir comment et où l'utiliser, en comprenant ses limites et en mettant en place des garde-fous. Dans le domaine de la cybersécurité, où la sécurité est cruciale, il est encore plus important d'être prudent et réfléchi dans l'utilisation de l'IA.

En conclusion,les modèles génératifs et l'IA en général offrent de grandes opportunités mais il faut les utiliser à bon escient, en les considérant comme des outils et non comme des entités dotées de conscience ou d'intentions. 

Et c'est là qu'on réalise l'ampleur des menaces auxquelles on est confrontés. Les "deep fakes" audio et vidéo, sont d'autant plus redoutables qu'ils peuvent tromper notre perception. L'IA peut générer des voix, des images, des vidéos si réalistes qu'elles sont presque indiscernables des originaux pour l'œil ou l'oreille humaine et parfois encore moins pour une IA elle-même. 

Ainsi, les types de menaces sont multiples : 

• Manipulation de l'information : Les deepfakes peuvent être utilisés pour créer de fausses informations ou des propagandes, pouvant avoir des impacts non négligeables. 
• Usurpation d'identité : L'IA peut être utilisée pour usurper l'identité d'une personne et commettre des escroqueries. 
• Attaques ciblées : Avec des outils automatisés basés sur l'IA, les cyberattaquants peuvent cibler de vastes groupes d'individus ou d'organisations en un temps record. 
• Automatisation des attaques : Les bots peuvent être formés pour lancer des attaques de phishing en masse, ou pour rechercher et exploiter des vulnérabilités de manière plus efficace que les humains. 
• Polymorphes : Les malwares peuvent être dotés de capacités d'IA leur permettant d'éviter la détection ou de s'adapter à différentes défenses. 

La détection de ces menaces nécessite une combinaison de méthodes traditionnelles et de nouvelles approches basées sur l'IA. Par exemple, pour détecter les deepfakes, l'utilisation d'algorithmes d'IA spécialement formés pour reconnaître les anomalies dans les vidéos ou les audios est nécessaire. 

Toutefois, il est important de noter que la défense contre ces menaces ne repose pas uniquement sur la technologie. La formation et la sensibilisation des individus jouent également un rôle crucial. Il est essentiel que les gens soient conscients des risques et sachent comment réagir en cas de doute.

Enfin, il est crucial d'avoir une approche multicouche en matière de cybersécurité. Cela signifie combiner des solutions technologiques, des politiques de sécurité solides, une formation continue et une veille constante sur les nouvelles menaces et les évolutions technologiques. 

Soulignons plusieurs points clés sur la convergence entre l’IA et la cybersécurité : 

• Complexification de la menace :  Avec l'émergence des IA capables de simuler des comportements humains ou de procéder à des attaques automatisées, le paysage des menaces évolue rapidement. Cela rend les défenses traditionnelles moins efficaces et exige une adaptation constante des méthodes de protection.
• Démocratisation des outils d'attaque :  Si des outils basés sur l'IA sont rendus accessibles au grand public, cela pourrait potentiellement augmenter le nombre d'attaquants, même s'ils n'ont pas de compétences techniques approfondies. 
• Hyper-personnalisation des attaques : L'utilisation de l'IA pour cibler spécifiquement une personne en fonction de ses intérêts ou de ses habitudes pourrait rendre les attaques (comme le phishing) plus efficaces.  
• Défense proactive : De la même manière, les défenseurs peuvent utiliser l'IA pour anticiper et comprendre les attaques, simuler des attaquants pour tester leurs propres systèmes, et développer des méthodes de défense plus adaptatives. 
• Défis éthiques : L'utilisation de l'IA à des fins malveillantes pose des questions éthiques majeures. Comment réguler l'utilisation de ces technologies ? Comment équilibrer l'innovation avec la sécurité ? 

En conclusion, l'intersection de l'IA et de la cybersécurité représente un nouveau champ de bataille technologique. Les organisations et les individus doivent s'adapter rapidement pour comprendre et mesurer les risques associés, tout en exploitant les opportunités que ces technologies peuvent offrir pour améliorer la sécurité. 

Dans ce contexte, il serait également intéressant d'envisager comment l'IA elle-même pourrait être utilisée pour renforcer la formation et la sensibilisation. Par exemple, des simulations basées sur l'IA pour former les collaborateurs à détecter des attaques, ou des systèmes d'IA qui analysent en temps réel les communications et alertent sur des comportements suspects. 

C'est un domaine en constante évolution, et l'interaction entre l'IA et la cybersécurité promet d'être l'une des dynamiques les plus intéressantes des prochaines années. 

Les animateurs du Club

Thierry Rouquet, CISCO
Gabriel Blanchard, INP Esisar
Salem Nait-Idir, Digital League
Laurent Païta, Digital League 

Merci aux participants

Jérémy Boiraud, OpenStudio - Patrice Chelim, CSB School - Florence Chey, Caribara Communication
Sébastien Claude, ASC2SI - Nicolas Deville, CISCO - Romain Fournel, Artecys
Julie Greard, Campus Région du numérique - Laurent Hausermann, Cyber Builders
Sébastien Hendrickx, SNS Security - Christel Jacquet, Agence Auvergne-Rhône-Alpes Entreprises
Clément Lecomte, Artecys - Jean-Luc Marini, OpenStudio - Vincent Nicaise, Stormshield
David Rechatin, Openscop - Thomas Rolland, ISTP - Gérald Sadde, Legal Pilot - Florent Yvon, Tenacy