Meta développe un outil de détection basé sur le Web conçu pour identifier les images et vidéos créées avec son modèle de génération d’images, connu sous le nom de Muse Image. Cet outil vérifie la présence de filigranes invisibles appelés Content Seal qui sont intégrés dans le contenu généré.
Selon Meta, Content Seal reste intact quelle que soit la manipulation de l’image, y compris le recadrage, la compression, le redimensionnement ou les captures d’écran. La société a déclaré que l’outil fournit un mécanisme initial permettant aux utilisateurs de déterminer si une image porte un filigrane Content Seal.
L’approche de filigrane utilisée par Muse Image est exclusive et diffère des versions open source antérieures publiées par Meta. La version actuelle des modèles d’IA de Meta n’utilise pas de filigranes visibles, ce qui diffère des modèles précédents qui incluaient des logos dans les images.
Actuellement, les capacités de détection sont limitées aux images créées ou modifiées avec Muse Image. Meta prévoit d’étendre à l’avenir les filigranes Content Seal aux vidéos générées et éditées par l’IA. La société développe également un modèle de génération vidéo distinct appelé Muse Video, qui devrait être lancé prochainement.
Les tests de l’outil de détection ont confirmé sa capacité à identifier les filigranes dans les images modifiées et celles entièrement générées par l’IA. Une détection positive indique que l’image a été produite à l’aide de l’application Meta AI ou de meta.ai, tandis qu’un résultat négatif suggère qu’il est peu probable qu’elle ait été traitée avec Meta AI. Cependant, la fonction de détection n’est pas intégrée à l’application Meta AI elle-même ; l’assistant de l’application a confirmé qu’il ne pouvait pas déterminer si une image spécifique avait été créée par Meta AI.
Meta a fait l’objet d’un examen minutieux concernant l’application incohérente des filigranes numériques pour le contenu généré par l’IA. Le Conseil de surveillance a exprimé ses inquiétudes plus tôt dans l’année concernant les pratiques de l’entreprise en matière d’étiquetage du matériel produit par l’IA. Content Seal est incompatible avec les méthodes de filigrane établies telles que SynthID et C2PA Content Credentials.
Lors de tests récents, l’outil de détection n’a pas réussi à identifier les images créées ou modifiées avec les versions précédentes des modèles d’IA de Meta. De plus, les utilisateurs de l’outil sont confrontés à des limites de taux et reçoivent des alertes dès qu’ils atteignent leur seuil quotidien de contrôle d’identité.
