« Faire face aux menaces émergeantes dans le domaine de la sécurité informatique est plus crucial que jamais »

John Shier- Field CTO Commercial chez Sophos. John Shier, Field CTO Commercial chez Sophos revient sur les points importants que révèlent ces deux études.

Pouvez- vous nous expliquer ce qui a motivé Sophos à mener cette étude sur l’utilisation de L’IA par les cybercriminels ?

Il y a deux raisons. La première, c’est qu’en tant que spécialiste de la cybersécurité, on doit pouvoir prévoir comment les cybercriminels vont potentiellement utiliser L’IA et où ils en sont actuellement dans son développement. La seconde, c’est comment nous pouvons utiliser L’IA nous- même pour que nos produits et nos services soient plus performants pour nos clients. Pour réaliser ces études, nous avons infiltré les principaux forums du dark web et les cercles privés des cybercriminels pour essayer de savoir ce qu’ils disent sur L’IA et comment ils la perçoivent.

D’après les informations que vous avez obtenues, les cyberattaques basées sur L’IA deviennent- elles une réalité ?

Des experts de Sophos avaient déjà mené une autre étude, il y a quelques mois, pour savoir s’il serait possible d’utiliser les outils basés sur L’IA accessibles au public pour effectuer des cyberattaques à grande échelle. Ils ont découvert que c’est effectivement possible, mais à condition de posséder certaines compétences techniques complémentaires. Indépendamment de notre étude, on a pu constater que les cybercriminels ont certainement utilisé L’IA pour des arnaques financières, mais pas pour créer des logiciels malveillants comme des malwares, des ransomwares, etc. Ils exploitent le potentiel de L’IA pour faire de l’ingénierie sociale, et du phishing. Cela leur permet notamment de créer des campagnes de phishing réalistes de plus en plus parfaites et dans différentes langues étrangères. Ils ne sont pas capables pour le moment de créer des malwares uniquement avec une IA générative. Pour accéder aux fonctions avancées et contourner les protections d’un service comme CHATGPT, il faut un certain nombre de « tokens » ( jetons). Le développement d’un malware fiable avec une IA générative nécessiterait tellement de tokens qu’ils les épuiseraient avant de pouvoir parvenir à un résultat satisfaisant. Les alternatives open source de CHATGPT ne sont, quant à elles, pas assez puissantes pour créer des logiciels malveillants. Dans une certaine mesure, les IA génératives peuvent permettre de créer des sites web frauduleux. Mais là encore, il y a des limitations et des barrières techniques qui nécessitent de maîtriser d’autres compétences.

L’étude met en lumière le scepticisme des cybercriminels à l’égard des IA génératives. Avez- vous identifié des avantages ou des inconvénients spécifiques ?

Le plus grand inconvénient pour eux, c’est la difficulté de contourner les barrières techniques des IA génératives, et obtenir un résultat plus fiable ou même égal à ce qu’ils ont aujourd’hui. C’est la raison pour laquelle, selon moi, on ne voit pas beaucoup de logiciels malveillants créés avec L’IA. Aujourd’hui, les techniques et les stratégies qu’ils emploient pour contourner nos systèmes, nos réseaux et pour créer des charges malveillantes fonctionnent très bien. Ils ont déjà beaucoup de succès ( on a vu que les ransomwares ont rapporté plus de 1 milliard de dollars en 2023), donc ils n’ont aucune raison de faire plus d’efforts pour intégrer des IA.