Google a signalé que son chatbot IA phare Gemini a été ciblé par des acteurs à motivation commerciale qui tentaient de le cloner via des invites répétées, y compris une campagne dépassant 100 000 requêtes.
Dans un rapport publié jeudi, Google a décrit cette activité comme une « attaque par distillation » ou une « extraction de modèle », où les attaquants sondent le système à la recherche de modèles et de logiques pour reproduire ou améliorer leurs propres modèles d’IA.
L’entreprise attribue la plupart de ses tentatives à des entreprises privées ou à des chercheurs en quête d’un avantage concurrentiel. Un porte-parole a déclaré à NBC News que les attaques semblent provenir du monde entier, mais aucun autre détail sur les suspects n’a été fourni.
John Hultquist, analyste en chef du Threat Intelligence Group de Google, a averti que les incidents Gemini pourraient préfigurer des attaques similaires contre les outils d’IA personnalisés des petites entreprises. Il a déclaré : « Nous allons être le canari dans la mine de charbon pour bien d’autres incidents », et a refusé de nommer des suspects.
Google qualifie la distillation de vol de propriété intellectuelle. La société a noté que des milliards de dollars ont été investis dans le développement de grands modèles de langage et que les algorithmes internes des meilleurs modèles sont considérés comme des actifs exclusifs de grande valeur.
Malgré les mécanismes de détection et de blocage, les LLM majeurs restent vulnérables car accessibles à tous sur Internet. OpenAI avait précédemment accusé son rival chinois DeepSeek de mener des attaques de distillation pour améliorer ses modèles.
De nombreuses invites ont été conçues pour extraire les algorithmes qui permettent à Gemini de « raisonner » et de traiter les informations. Hultquist a ajouté qu’à mesure que les organisations forment des LLM personnalisés sur des données sensibles, elles exposent des stratégies propriétaires. Il a illustré : “Disons que votre LLM a été formé sur 100 ans de réflexion secrète sur la façon dont vous négociez. En théorie, vous pourriez en distiller une partie.”
Le rapport souligne l’inquiétude croissante du secteur de l’IA concernant l’extraction de modèles et la nécessité de mesures de protection plus strictes contre le vol de propriété intellectuelle.
Google a noté que la fréquence des attaques par distillation a fortement augmenté ces derniers mois, ce qui a incité l’entreprise à renforcer ses capacités de surveillance et de réponse. La société a déclaré que ses systèmes de détection signalent des modèles de requêtes anormaux, mais que les attaquants s’adaptent pour contourner les mesures de protection. Google a souligné que les architectures propriétaires et les données de formation des grands modèles de langage représentent un avantage concurrentiel important, et que l’extraction non autorisée compromet cet avantage. Le rapport souligne également que d’autres acteurs du secteur sont confrontés à des menaces similaires, OpenAI accusant publiquement DeepSeek d’utiliser les données extraites pour affiner ses propres modèles. L’équipe de renseignement sur les menaces de Google continue de suivre l’activité mondiale et de conseiller ses partenaires sur les stratégies d’atténuation.
