Anthropic a accusé trois sociétés chinoises d’IA – DeepSeek, Moonshot et MiniMax – d’avoir mené des « campagnes à l’échelle industrielle » pour utiliser à mauvais escient son chatbot Claude. Dans une déclaration publiée sur son site Internet, la société a affirmé que ces entreprises utilisaient la plateforme pour « extraire illégalement les capacités de Claude pour améliorer leurs propres modèles ».
Selon Anthropic, les sociétés accusées ont utilisé environ 24 000 comptes frauduleux pour générer plus de 16 millions d’échanges avec Claude. Ce processus, connu sous le nom de distillation, consiste à utiliser les résultats d’un modèle d’IA puissant pour en former un moins performant. Bien que cette pratique soit courante, Anthropic affirme que ces actions spécifiques visaient à contourner les mesures de sécurité et à accélérer le développement du modèle.
Anthropic a déclaré avoir lié les attaques à des entreprises spécifiques avec « une grande confiance ». L’identification reposait sur la corrélation des adresses IP, les demandes de métadonnées, les indicateurs d’infrastructure et la corroboration d’autres acteurs du secteur de l’IA. En réponse à cette activité, Anthropic a annoncé son intention de mettre à niveau ses systèmes afin de rendre les attaques par distillation plus difficiles à exécuter et plus faciles à détecter.
Ces accusations reflètent les mesures prises par OpenAI au début de l’année dernière, lorsque la société a fait des déclarations similaires concernant des sociétés rivales distillant ses modèles et ayant ensuite interdit les comptes suspects. Par ailleurs, Anthropic fait actuellement face à un procès de la part d’éditeurs de musique qui allèguent que la société a utilisé des copies illégales de chansons pour former Claude.
