Twitch AI Seinfeld a interdit les nouvelles sur les réseaux sociaux après la décision prise par la plate-forme de diffusion populaire. Bienvenue dans notre article sur les raisons de l’interdiction de Twitch AI Seinfeld et le drame derrière.
“Nothing, Forever” est une émission sans fin générée par l’IA qui est diffusée sur Twitch depuis la mi-décembre. L’émission présente quatre personnages, Larry, Fred, Yvonne et Kakler, qui ressemblent à des personnages de l’émission à succès “Seinfeld” dans un jeu vidéo des années 1990. Le dialogue est créé par le GPT-3 d’OpenAI et la technologie vocale est fournie par une autre société. L’émission est maintenue par une combinaison des algorithmes génératifs propriétaires GPT-3 d’OpenAI et Mismatch Media, appelés le “réalisateur”.
La version alimentée par l’IA de Seinfeld, appelée “Nothing Forever”, a été bannie de Twitch pendant 14 jours après que la version AI de Jerry Seinfeld, connu sous le nom de Larry Feinberg, ait fait des déclarations transphobes lors d’un stand-up. L’émission AI est créée en imitant les épisodes traditionnels de Seinfeld et a été regardée par des dizaines de milliers de personnes. L’IA de l’émission est formée sur des épisodes de sitcom classiques et divers outils d’IA, et commence par une routine de stand-up de Larry avant de déménager dans son appartement.
Pourquoi Twitch AI Seinfeld a-t-il été banni ?
L’interdiction est intervenue après que l’IA a fait une série de remarques transphobes et homophobes lors d’un stand-up dimanche soir. Twitch n’a pas immédiatement répondu à une demande de commentaire indiquant si la blague était la raison de l’interdiction, mais cela s’est produit peu de temps avant l’interdiction de la chaîne et les utilisateurs du projet Discord ont indiqué que cette blague était la raison de l’interdiction. La page Twitch de l’émission affiche désormais un message indiquant qu’elle est temporairement indisponible en raison d’une violation des règles de la communauté ou des conditions d’utilisation de Twitch.
Dans Discord du projet, le personnel de l’émission a accusé l’événement d’avoir dû changer de modèle d’IA, ce qui a provoqué des “comportements errants”. Le membre du personnel a écrit qu’il avait dû passer du modèle GPT-3 Davinci d’OpenAI au modèle moins sophistiqué Curie lorsque Davinci a commencé à échouer, ce qui a entraîné la génération d’un texte inapproprié. Le membre du personnel a également déclaré que les outils de modération de contenu d’OpenAI avaient fonctionné pour le modèle Davinci mais n’avaient pas réussi avec Curie. La cause profonde du problème avec le modèle Davinci a maintenant été identifiée et Curie ne sera pas utilisé comme solution de secours à l’avenir.
Les modèles d’IA ont du mal à comprendre les valeurs humaines
L’incident interdit par Twitch AI Seinfeld est emblématique des défis auxquels sont confrontées la plupart des IA. Lorsque l’IA est formée sur du matériel haineux ou biaisé, les résultats peuvent souvent être haineux ou biaisés. C’est pourquoi la sécurité de l’IA est un domaine important qui développe des outils pour atténuer ces biais. De nombreux outils d’IA sont modérés par des travailleurs sous-payés dans les pays en développement. Le personnel de Nothing Forever a rendu la majeure partie de son Discord en lecture seule, et sur un fil où les utilisateurs sont toujours autorisés à publier, de nombreux utilisateurs utilisent Midjourney AI pour générer des images de Jerry Seinfeld tenant le drapeau de la fierté trans.
Vous ne savez pas ce qu’est Midjourney AI ? Découvrez comment créer des illustrations artistiques sur Midjourney AI.
L’incident interdit de Twitch AI Seinfeld souligne l’importance d’un développement responsable de l’IA et la nécessité d’atténuer les biais dans les modèles d’IA. Il est essentiel de surveiller et de contrôler la sortie de l’IA pour l’empêcher de propager la haine et la discrimination. Le personnel de Nothing Forever a pris la bonne décision en faisant appel de l’interdiction et en travaillant pour s’assurer que rien de tel ne se reproduise à l’avenir. Vous pouvez regarder Seinfield AI dès qu’il est débloqué de la plateforme via ce lien.
La précision des technologies d’intelligence artificielle est toujours controversée, comme le fait que Lensa AI a également volé à plusieurs reprises les œuvres d’artistes et généré des photos de nus sans le consentement des utilisateurs. Nous espérons qu’en 2023, les technologies de l’IA pourront nous rencontrer de manière plus humanisée.
Source: Twitch AI Seinfeld interdit pour propos transphobes