Microsoft a publié cette semaine un rapport de renseignements sur les menaces révélant que les pirates informatiques intègrent de plus en plus l’intelligence artificielle à chaque phase de leurs opérations, de la reconnaissance et du phishing au développement de logiciels malveillants et aux activités post-compromission.
La société a décrit l’IA comme un « multiplicateur de force » qui réduit les barrières techniques et accélère l’exécution pour les attaquants de différents niveaux de compétence. Les résultats indiquent que l’adoption de l’IA réduit les compétences techniques requises pour mener des cyberattaques à grande échelle.
Les groupes menaçants nord-coréens Jasper Sleet et Coral Sleet utilisent l’IA générative pour alimenter de faux programmes d’emploi élaborés ciblant les entreprises occidentales. Les acteurs de Jasper Sleet utilisent des outils d’IA pour générer des listes de noms culturellement appropriées, adapter de faux CV à des offres d’emploi spécifiques et élaborer des communications professionnelles pour maintenir un emploi à long terme une fois embauché, selon CyberScoop.
Microsoft a observé Jasper Sleet utiliser l’application d’IA Faceswap pour insérer les visages d’informaticiens nord-coréens dans des documents d’identité volés et créer des portraits soignés pour les CV. Le groupe a également déployé une technologie de modification de la voix lors des entretiens virtuels pour masquer les accents, permettant ainsi aux agents de se faire passer pour des candidats occidentaux, a rapporté The Guardian.
“Jasper Sleet utilise l’IA tout au long du processus d’attaque pour sécuriser l’emploi, le maintenir et exploiter l’accès à grande échelle”, a déclaré Microsoft.
Coral Sleet a utilisé des outils de codage d’IA pour générer et affiner les composants de logiciels malveillants, créer de faux sites Web d’entreprise, fournir une infrastructure à distance et tester rapidement les charges utiles. Le groupe a jailbreaké de grands modèles de langage pour générer du code malveillant qui contourne les contrôles de sécurité intégrés, selon Microsoft.
Microsoft a noté les premières expérimentations des acteurs malveillants avec l’IA agentique, où les modèles prennent en charge la prise de décision itérative et l’exécution des tâches, bien que cela n’ait pas encore été observé à grande échelle.
Google a rapporté en février que son Threat Intelligence Group avait observé des acteurs malveillants utilisant l’IA pour collecter des informations, créer des campagnes de phishing et développer des logiciels malveillants. Amazon a documenté une campagne dans laquelle un pirate informatique russophone a utilisé des services d’IA générative pour pirater plus de 600 pare-feu FortiGate dans 55 pays en cinq semaines, démontrant comment l’IA a permis à un attaquant aux compétences limitées d’opérer à une échelle nécessitant auparavant une équipe plus grande et plus compétente.
Microsoft a conseillé aux organisations de considérer les projets informatiques basés sur l’IA comme des risques internes et de se concentrer sur la détection de l’utilisation anormale des informations d’identification, le renforcement des systèmes d’identité contre le phishing et la sécurisation des systèmes d’IA qui peuvent eux-mêmes devenir des cibles.
