L'IA : amie ou ennemie ?

L'IA permet ainsi d'améliorer l'efficacité dans de nombreux domaines, notamment la cybersécurité. L'IA ou l'apprentissage automatique (Machine Learning  - ML) peuvent par exemple renforcer la sécurité des réseaux et les logiciels de détection des fraudes, ou faciliter la détection des anomalies sur le réseau.

‘Chez DNS Belgium, nous utilisons notamment Regcheck, un outil d'IA développé en interne qui évalue chaque nouvel enregistrement de nom de domaine afin de déterminer s'il est malveillant  ou non», explique Maarten Bosteels, responsable R&D chez DNS Belgium. ‘Aujourd'hui, ce premier contrôle est beaucoup plus efficace grâce à l'IA. Auparavant, nous avions des règles pour cela, mais aujourd'hui, nous disposons d'un système d'auto-apprentissage qui reconnaît également les nouveaux modèles. Si un fraudeur change de tactique, il y a de fortes chances que Regcheck le détecte.’

Raman : ‘L'IA est extrêmement utile, par exemple pour analyser les e-mails de hameçonnage . Si vous le faites uniquement par des moyens humains, vous passerez à côté de certaines subtilités. Aujourd'hui, cela se fait en partie grâce à l'IA, j'insiste sur le mot ‘en partie’, car des problèmes tels que les hallucinations persistent. Mais l'idéal est de combiner l'analyse traditionnelle effectuée par des humains et une analyse faite par l’IA.’

DNS Belgium associe également l'IA à l'expertise humaine. Bosteels : ‘Regcheck décide quels noms de domaine nécessitent un contrôle supplémentaire, sans intervention humaine. Mais le suivi est souvent effectué par un être humain.’

Thomas Daniels, chercheur chez DNS Belgium : ‘Pour les nouveaux enregistrements, cela peut se faire de manière proactive, car aucun site web n'est encore hébergé. La détection et la suppression de boutiques en ligne frauduleuses ne peuvent pas être confiées uniquement à l'IA. Si le système commettait une erreur et rendait un site légitime inaccessible, l'impact sur l'entreprise derrière ce nom de domaine pourrait être considérable.’

IA et ML : les armes des cybercriminels

Entre-temps, les cybercriminels ont également découvert en l'IA un puissant outil pour faciliter leur travail. 

L'ENISA (l'agence européenne chargée de la cybersécurité), Europol et d'autres institutions spécialisées dans la cybersécurité ont constaté un doublement du nombre de cyberattaques utilisant l'IA entre le quatrième trimestre 2023 et le premier trimestre 2024. Comme le montre l'exemple du faux directeur financier, l'IA aide les cybercriminels à rendre leurs attaques plus intelligentes et plus convaincantes. 

‘Il y a deux ans à peine, il fallait pratiquement avoir un doctorat pour y parvenir de manière crédible. Aujourd'hui, il existe des outils permettant de créer une fausse vidéo dans la langue de votre choix, avec une synchronisation parfaite entre les lèvres et l'audio’, explique l'expert en sécurité de Nviso. ‘Nous avons alors réalisé pour une banque une vidéo dans laquelle leur PDG prononçait un discours de trente secondes. Cela nous a pris deux semaines. Avec les bons outils, vous pouvez aujourd'hui réaliser cela en trois heures. C'est incroyable ce qu’il est possible de faire aujourd'hui.’

Phishing 2.0

Alors qu'auparavant, on voyait souvent des erreurs linguistiques ou des constructions de phrases étranges, l'IA rédige désormais des mails crédibles et sans fautes. Grâce au Machine learning, les outils peuvent apprendre à partir de communications antérieures afin de générer des messages qui imitent parfaitement le style d'écriture d'une personne ou d'une institution. 

Raman : ‘L'IA peut rédiger ce type de mails 24 heures sur 24. Auparavant, pour envoyer un mail de hameçonnage ciblé à une personne donnée, un pirate devait passer des heures à collecter des informations et à élaborer un script ou un message. C'est pourquoi ces messages visaient principalement les PDG, car en cas de succès, le ‘gain’ était souvent important. L'intelligence artificielle ne se fatigue pas : vous pouvez lui donner des instructions pour des centaines d'individus, elle collecte de manière autonome des informations à leur sujet et rédige un mail quasi parfait pour quelques euros. C'est un changement majeur dans la manière dont le hameçonnage ciblé est pratiqué aujourd'hui.’

Cyberattaques et logiciels malveillants plus sophistiqués

Tout comme l'IA et le ML aident à repousser les cyberattaques, les criminels les utilisent également pour intensifier leurs actions et les porter à un niveau de complexité et de rapidité sans précédent. Ces développements ont notamment donné naissance, l'année dernière, au premier ransomware entièrement créé par l'IA.

Des logiciels tels que ChatGPT intègrent un certain nombre de mesures de sécurité pour empêcher les utilisateurs de créer des codes malveillants. Mais ceux qui sont suffisamment intelligents pour les contourner peuvent toujours le faire ou trouver des outils d'IA moins stricts à cet égard. Il existe désormais ce qu'on appelle des ‘logiciels malveillants polymorphes’. Il s'agit de maliciels générés par l'IA qui modifient constamment leur code afin de contourner les logiciels de détection et de sécurité. 

‘Ce type de malware écrit lui-même un script pour contourner la détection et s'adapte en fonction de la cible’, explique Raman. ‘Il est donc difficile de créer des modèles de reconnaissance (signatures) pour les malwares. Auparavant, un virus présentait des caractéristiques spécifiques qu'un scanner pouvait rechercher. Aujourd'hui, ces caractéristiques ne sont plus fixes et un système de sécurité doit examiner le comportement.’

L'IA comme outil de défense

Heureusement, les experts en cybersécurité et les cybercriminels se battent à armes égales. Les efforts du premier groupe permettent de détecter plus rapidement les situations suspectes.

Détection ultra-rapide des menaces

L'IA apprend à reconnaître le comportement normal d'un système ou d'un réseau et l'analyse. Elle détecte tout écart par rapport au comportement normal des fichiers, des utilisateurs ou du trafic réseau et peut le signaler comme une menace potentielle. 

Cette technologie surpasse les méthodes traditionnelles car elle apprend en permanence, en s'adaptant rapidement et en fournissant des alertes en temps réel et des réponses automatisées aux menaces connues et inconnues.

Daniels, chercheur chez DNS Belgium, nuance toutefois en précisant que les développements récents dans les modèles linguistiques (LLM) et donc l'IA générative (genAI) ne sont qu'une partie de l'histoire. ‘Nous utilisons des outils basés sur une architecture de modèle datant de 2017. Cela fonctionne aujourd'hui de manière similaire. D'autres, qui sont basés sur des modèles linguistiques, se sont bien sûr améliorés grâce à l'évolution de ces dernières années.’

Souvent utile, mais pas toujours nécessaire

Le grand avantage de l'IA réside non seulement dans sa vitesse de détection, mais aussi dans sa capacité de traitement. Elle peut simultanément filtrer et traiter d'énormes flux de données provenant de différentes sources (journaux, trafic réseau, activité des utilisateurs) et détecter très rapidement des anomalies invisibles à l'œil nu. 

Dans le même temps, il faut préciser que si l'IA a de nombreuses capacités, elle n'est pas nécessairement la meilleure solution dans toutes les situations. ‘Toute automatisation ne relève pas de l'IA. Si vous programmez des éléments basés sur des règles, ceux-ci sont généralement plus rapides à exécuter qu'un système d'IA et nécessitent moins de ressources pour fonctionner’, explique M. Bosteels.

Que fait DNS Belgium ?

 DNS Belgium exploite depuis des années les possibilités offertes par l'IA et le ML pour garantir la sécurité de l'internet en Belgique.

Dès 2019, nous avons commencé à développer un crawler open source qui collecte automatiquement les données publiques disponibles sur les noms de domaine .be. Ces données servent notamment à détecter les boutiques en ligne frauduleuses.

Avec Regcheck, nous avons développé un modèle d'IA qui évalue si un nom de domaine nouvellement enregistré sera utilisé à des fins de hameçonnage ou d'autres activités frauduleuses. Les personnes derrière ces noms de domaine font l'objet d'un contrôle d'identité avant que leur domaine ne soit disponible, ce qui permet à DNS Belgium d'agir de manière préventive contre les abus.

DNS Belgium œuvre également activement à l'amélioration des compétences numériques et à la sensibilisation à la cybersécurité. Nous veillons ainsi à ce que davantage de personnes soient en mesure de reconnaître les menaces ou les escroqueries en ligne, indépendamment de l'utilisation ou non de l'IA dans ce domaine.