Selon des rapports, les images générées par Billie Eilish AI ont fait l’objet de “pornographie deepfake” sur TikTok dans une vidéo qui a reçu des millions de vues.
Sur sa page For You, le flux principal du réseau social, les utilisateurs sont tombés sur une vidéo avec le visage de 20 ans placé sur des corps sexuellement exagérés. Avant que TikTok n’interdise le clip pour avoir enfreint les directives de la communauté sur le harcèlement sexuel, le diaporama de la galerie de photos aurait eu 11 millions de téléspectateurs.
La vidéo qui prétendait utiliser l’IA auto-générée pour recréer une version du chanteur Your Power aurait été affichée sur les écrans de téléphone pendant quatre jours, malgré l’application interdisant tout contenu ouvertement sexualisé.
La technologie de l’IA est-elle allée trop loin avec les deepfakes générés par l’IA de Billie Eilish ?
Malgré le fait que les propres politiques de TikTok stipulent que le contenu manifestement sexualisé est interdit, la vidéo a néanmoins été affichée sur l’onglet Pour vous de l’application.
Des applications comme Lensa ou Midjourney ont gagné en popularité ces dernières semaines et, par conséquent, les personnages numériques des gens basés sur leurs propres photos sont partout sur Instagram, Twitter et TikTok. Mais de nombreux rapports indiquent que Lensa AI est au centre d’un débat houleux sur son contenu NSFW, car la plate-forme génère des images « nues » féminines sans aucun consentement.
Cependant, de nombreuses femmes affirment qu’en les déshabillant ou en leur montrant des corps sexualisés, les applications soutiennent la misogynie.
Afin d’aider les victimes d’abus sexuels en ligne et hors ligne, Hera Hussain, la créatrice et PDG de Chayn, a déclaré :
“L’algorithme TikTok n’est pas configuré pour discerner quel type de contenu suscite l’engagement et c’est un problème critique. Il ne faut pas recommander ces vidéos aux flux de leurs utilisateurs. Ce n’est pas un mème inoffensif. Ce n’est pas une image fixe des propres vidéos du chanteur. C’est une image hyper-sexualisée manipulée par l’IA.
– Héra Hussain
Il est déroutant de savoir comment l’algorithme TikTok prend en charge le contenu NSFW
Si vous utilisez une plateforme de médias sociaux, sachez que les photos générées par l’IA sont récemment devenues virales sur de grandes plateformes comme TikTok, qui est utilisée par des millions de personnes de tous âges. Il est vraiment déroutant qu’un contenu tel que la pornographie deepfake générée par Billie Eilish AI soit recommandé aux utilisateurs par l’algorithme TikTok. Le contenu est malheureusement resté sur la plateforme pendant des jours et a reçu des millions de vues avant d’être supprimé.
Un porte-parole de TikTok a déclaré à ce sujet :
“Ce contenu enfreint nos directives communautaires, qui stipulent clairement que nous n’autorisons pas le contenu qui modifie ou transforme l’image d’un autre individu pour représenter ou impliquer une suggestivité sexuelle.”
– Porte-parole de TikTok
La réaction aux photos générées par l’IA est en plein essor
On parle beaucoup sur les plateformes de médias sociaux des méfaits des applications d’IA qui sont revenus au premier plan avec le deepfake généré par Billie Eilish AI après que l’application populaire Lensa AI ait précédemment décrit les femmes comme trop sexuelles et accusées d’avoir volé les œuvres de certains artistes. . Il y a beaucoup de tweets sur le sujet sur Twitter comme @_CatherineAllenle tweet de.
Pourquoi cette application de portrait AI est-elle si désireuse d’enlever mes vêtements ? !
Avec Lensa, vous téléchargez 20 selfies et cela génère des dizaines de portraits artistiques uniques de vous. J’étais entièrement vêtu de toutes les photos que j’ai téléchargées (évidemment !) Mais certaines photos générées de moi étaient des nus
pic.twitter.com/rwOvPmrpFd
– Catherine Allen (@_CatherineAllen) 10 décembre 2022
Une manifestation contre les images générées par l’IA a récemment eu lieu sur l’ArtStation qui est une plateforme dédiée aux artistes numériques. Les artistes ont commencé à se révolter contre l’art de l’IA et à dire des messages “Non aux images générées par l’IA” dans les photos qu’ils ont téléchargées sur la plateforme.
L’utilisation correcte des technologies d’IA est certainement un élément très important pour nous. L’IA, qui nous aide à de nombreux moments de notre vie depuis des années, est malheureusement devenue au centre de nombreuses discussions, devenant virale ces derniers jours. Alors que la plupart des technologies d’IA suivent le protocole d’auto-apprentissage, la diffusion publique des applications peut peut-être faire reculer l’IA, en particulier sur les questions éthiques, plutôt que de soutenir son développement. Si l’on regarde le modèle créé par ChatGPT, peut-être qu’il n’est pas utilisé dans les sujets actuels en raison des réserves d’OpenAI à ce sujet.
Source: TikTok a promu Billie Eilish AI a généré de la pornographie deepfake
