Le fil d’actualité de Facebook est devenu un endroit étrange et inquiétant. Des images farfelues, apparemment produites par l’intelligence artificielle, attirent une attention extraordinaire.
Des vaches hyper musclées à Jésus réinventé en crevette, ces créations bizarres se répandent sur la plateforme, suivies par un refrain de «Amen” d’utilisateurs sans méfiance.
Mais derrière la vague d’absurdités numériques se cache une réalité plus sombre : un réseau de pages conçues pour attirer les utilisateurs vers fermes de clics chargées de publicités.
Les vannes de l’IA s’ouvrent
Au cœur de ce phénomène se trouvent des dizaines de pages Facebook qui produisent sans relâche des images générées par l’IA. Ces pages présentent souvent des thèmes bizarres comme des messages sur le thème de Jésus ou des agents de bord dans des scénarios inhabituels. Les publications suscitent des milliers de réactions, allant de commentaires perplexes à des éloges de type robot, alors que les utilisateurs confus se demandent si les images sont réelles ou non.
Selon une analyse récente du Observatoire Internet de Stanford, ces images ont accumulé des centaines de millions d’engagements. Les portraits complexes de Jésus générés par l’IA (parfois construits à partir de bouteilles en plastique, parfois sculptés dans du sable) comptent parmi les images les plus virales. Plus récemment, le tournant des crustacés pour l’IA-Jésus gagne du terrain, avec les crevettes, les crabes et autres créatures similaires occupant le devant de la scène. Les agents de bord, largement représentés comme des femmes d’Asie de l’Est, sont régulièrement représentés dans des scénarios improbables : priant avec Jésus, tenant des croix ou trempés dans la boue. Pendant ce temps, les jeunes enfants noirs deviennent des sensations virales lorsqu’ils exposent des chefs-d’œuvre soi-disant fabriqués à la main, comme des tigres fabriqués à partir de pneus générés par l’IA.
Qui est derrière le déluge d’IA ?
La motivation derrière ce flot d’images IA n’est pas claire. La grande majorité de ces publications ne divulguent pas leur nature générée par l’IA, malgré l’exigence de Meta d’étiqueter ce contenu. Bien que le potentiel d’escroquerie soit discuté, il pourrait simplement s’agir d’utilisateurs exploitant une faille pour le contenu viral.
À mesure que la technologie de l’IA générative devient plus accessible, la crainte que ces images synthétiques puissent être utilisées à des fins de désinformation et de campagnes de désinformation augmente.
Pages Facebook volées et Web viral
L’étude de Stanford révèle que bon nombre de ces Les pages de spam de l’IA sont réutilisées à partir de profils légitimes.
Des écoles, des églises et même la page d’un groupe de musique d’un lycée ont été détournées et transformées en plaques tournantes pour d’étranges images d’IA. Les tentatives des propriétaires d’origine pour récupérer leurs pages se seraient heurtées au silence de Facebook.
Le spectacle et l’inquiétude
Alors que le spectacle suscite à la fois amusement et perplexité, un sentiment de malaise grandit. Les utilisateurs pensent que ces pages pourraient être utilisées pour identifier des cibles potentielles d’escroqueries. Le volume considérable de contenus sensationnels d’IA, associé à des utilisateurs crédules, pourrait créer un réseau pour des acteurs malveillants et des stratagèmes frauduleux.
L’étrange saga des crevettes générées par l’IA, de l’art de Jésus et des agents de bord boueux sur Facebook met en lumière un problème émergent. À mesure que la génération d’images IA devient plus sophistiquée, la frontière entre bizarrerie inoffensive et manipulation dangereuse s’estompe. Cela souligne la nécessité pour les plateformes de médias sociaux comme Facebook d’adopter une position plus proactive dans l’identification et étiquetage du contenu généré par l’IA.
Crédit image en vedette: Aime Dieu et Dieu t’aime/Facebook.
Source: L’algorithme de Facebook s’est déchaîné : le spam de l’IA et la montée bizarre du “Shrimp Jesus”