Le Threat Intelligence Group (GTIG) de Google a annoncé la découverte d’un exploit zero-day qui serait développé par l’intelligence artificielle. Il s’agit de la première identification par l’entreprise d’un tel exploit, destiné à un « événement d’exploitation de masse ». GTIG a déclaré que la découverte proactive aurait pu empêcher des attaques potentielles.
Bien que Google ne pense pas que ses propres modèles Gemini aient été impliqués dans la création de l’exploit, il est « hautement convaincu » qu’un modèle d’IA a joué un rôle dans la découverte et l’utilisation de la vulnérabilité. La cible spécifique de l’exploit n’a pas été divulguée, mais Google a informé la société anonyme concernée, qui a ensuite corrigé le problème.
GTIG n’a pas révélé l’identité des acteurs de la menace, mais a mentionné que des groupes associés à la Chine et à la Corée du Nord ont manifesté un intérêt considérable pour l’exploitation de l’IA à des fins de cyberexploits. Le rapport souligne que les auteurs de menaces utilisent de plus en plus l’IA à différentes étapes des cyberattaques, ce qui déclenche l’alarme sur les risques futurs associés aux attaques basées sur l’IA.
John Hultquist, analyste en chef du GTIG, a décrit l’incident comme « un avant-goût de ce qui va arriver » et « la pointe de l’iceberg », illustrant l’évolution de l’utilisation de l’IA dans la cybercriminalité. Il a souligné que cette affaire représente la première « preuve tangible » de telles attaques.
Malgré les dangers posés par l’IA entre des mains compétentes, Google a affirmé que l’IA peut également être un outil efficace de défense en matière de cybersécurité. D’autres entreprises mettent également en œuvre l’IA pour des mesures de protection. Par exemple, Anthropic a annoncé le mois dernier le projet Glasswing, qui se concentre sur l’utilisation de l’IA pour identifier et atténuer les « vulnérabilités de haute gravité ».
