Étude de Sophos :
Décryptage de l’utilisation réelle ou supposée de L’IA par les cybercriminels
Le spécialiste de la sécurité informatique « as a Service » , Sophos, a récemment publié deux études sur l’utilisation potentielle de L’IA par les cybercriminels. Celles- ci révèlent une situation plus complexe qu’il n’y parait.
Si certains utilisent déjà L’IA pour parfaire leurs escroqueries, d’autres se montrent beaucoup plus sceptiques vis- à- vis de ces nouvelles technologies.
L’ étude « The Dark Side of AI : Large- Scale Scam Campaigns Made Possible by Generative AI » a pour but d’explorer comment les technologies génératives comme CHATGPT d’openai pourraient permettre aux cybercriminels de fomenter des fraudes massives. En utilisant des templates simples d’e- commerce et des outils LLM ( Large Language Model) comme GPT- 4, les experts de Sophos X- Ops ( une équipe réunissant différentes divisions de la société) a réussi à créer un site web de commerce entièrement fonctionnel, avec des images, des messages audio, et des descriptions de produits générés par IA. Ils ont complété le tout par de fausses pages de connexion via Facebook et de paiement destinées à dérober les identifiants et les coordonnées bancaires des visiteurs.
Cette démonstration prouve, s’il en est besoin, à quel point il est aisé pour les cyberescrocs de mettre sur pied un site web frauduleux avec un minimum de connaissances techniques. Sophos X- Ops a ensuite créé des centaines de sites web similaires en seulement… quelques minutes ! « Il est naturel — et attendu — que les cybercriminels se tournent vers de nouvelles technologies pour automatiser leurs attaques. La création des premiers e- mails de spam avait constitué une étape cruciale en faisant franchir aux techniques d’escroquerie un nouveau palier en termes d’échelle. De nouvelles IA s’apprêtent à faire de même : s’il existe une technologie D’IA capable de créer des menaces entièrement automatisées, elle finira par être exploitée à cette fin. Nous avons d’ailleurs déjà observé l’intégration de textes ou de photos générés par IA pour servir d’appâts dans des escroqueries classiques » , commente Ben Gelman, Senior Data Scientist chez Sophos.
Anticiper les cyberattaques basées sur L’IA
La seconde étude « Cybercriminals Can’t Agree on GPTS » menée par les experts met à mal certaines idées reçues selon lesquelles les cybercriminels utiliseraient massivement les IA génératives pour développer des charges malveillantes. En infiltrant les principaux forums du dark web, ils se sont rendus compte que L’IA dans la cybercriminalité n’en était qu’à ses balbutiements. Si les cybercriminels sont bien conscients du potentiel des LLM pour l’ingénierie sociale, ils se montrent beaucoup plus sceptiques quant à leur utilisation pour la création de malwares. « Tandis que d’importantes préoccupations se sont fait jour concernant l’utilisation abusive de L’IA et des LLM par des cybercriminels depuis le lancement de CHATGPT, notre étude révèle que, jusqu’ici, les acteurs malveillants font preuve de plus de scepticisme que d’enthousiasme. Sur deux des quatre forums que nous avons parcourus sur le Dark Web, nous n’avons qu’une centaine de messages parlant de L’IA, contre un millier à propos des cryptomonnaies au cours de la même période. Nous avons bien vu des cybercriminels tenter de créer des malwares ou des outils d’attaque au moyen de LLM mais les résultats sont rudimentaires et souvent accueillis avec scepticisme par les autres utilisateurs. Pour l’instant, il semble que les cybercriminels nourrissent les mêmes débats sur les LLM que le reste de la population » , ajoute Christopher Budd, directeur de recherche pour Sophos X- Ops.