Twitch, la célèbre plateforme de streaming en direct, a récemment introduit une fonctionnalité basée sur l’IA conçue pour réduire le langage grossier dans les salles de discussion. Annoncée par l’équipe d’assistance de Twitch sur X (anciennement Twitter), cette nouvelle expérience vise à rendre les interactions en ligne plus positives, mais il reste à voir dans quelle mesure elle sera couronnée de succès.
La plateforme déploie un système d’avertissement basé sur l’apprentissage automatique qui incitera les utilisateurs à réfléchir à deux fois avant d’envoyer des messages qui pourraient être considérés comme offensants ou irrespectueux. Des robots modérateurs ont été mis en place pour cela, mais ils n’ont pas été suffisants, c’est pourquoi Twitch cherche désormais à introduire un système intégré.
L’IA prend en charge les jurons dans le chat Twitch, mais les robots sont toujours en liberté
L’idée de base derrière cette nouvelle fonctionnalité est de fournir un moment de pause aux utilisateurs qui sont sur le point d’envoyer messages potentiellement dangereux. Lorsque l’IA détecte un langage qui pourrait être considéré comme offensant, une invite apparaît demandant : «Etes-vous sûr de vouloir envoyer ceci ?« L’invite vise à empêcher toute communication nuisible en donnant aux utilisateurs la possibilité de reconsidérer leurs propos avant d’appuyer sur « envoyer ».
Mais le vrai problème il ne s’agit pas tant de personnes qui disent des gros mots, mais de savoir si comptes de bot spamment les diffuseurs des discussions ou des gains un public injuste. En d’autres termes, un compte de bot passera déjà cet avertissement et mangera à nouveau ce mot, et le compte a déjà été ouvert à l’interdictionIl est plutôt intéressant de prendre des mesures contre les situations causées par le problème au lieu de résoudre le problème source.
Mes amis, nous avons utilisé l’exemple du message parce que, sans surprise, nous ne voulions pas que des propos horribles soient tweetés.
Arrêtez d’être des imbéciles.
— Assistance Twitch (@TwitchSupport) 12 août 2024
Le concept est simple, mais il reste à voir dans quelle mesure il sera efficace. L’objectif de Twitch est de réduire le harcèlement, un problème courant dans de nombreuses communautés en ligne. Cependant, une question se pose : les utilisateurs qui veulent se montrer irrespectueux ignoreront-ils l’avertissement et continueront-ils à envoyer des messages ? Ou dans quelle mesure l’avertissement fonctionnera-t-il pour les comptes de bots ? L’expérience de Twitch aidera à déterminer si cette approche basée sur l’IA peut réellement freiner les comportements négatifs, ou s’il s’agit simplement d’un autre filtre que les utilisateurs franchissent sans trop réfléchir.
Les défis et l’avenir de la modération de l’IA
L’un des aspects les plus intrigants de cette expérience est Comment l’IA interprétera le langageLes systèmes d’IA, en particulier ceux basés sur l’apprentissage automatique, s’appuient sur des modèles et des données pour prendre des décisions. Le succès de cette expérience dépend de la capacité de l’IA à détecter et signaler avec précision les propos offensants sans censurer par inadvertance les commentaires inoffensifs. Cet équilibre est crucial, car une modération trop sensible peut entraver la libre circulation des conversations, tandis qu’une approche trop indulgente peut ne pas réussir à freiner le comportement même qu’elle vise à éliminer.
Ou l’IA sera-t-elle capable de détecter des choses illégales, comme certains sites de parissans blasphèmes ni messages grossiers, par exemple ?
L’équipe d’assistance de Twitch a laissé entendre que d’autres mises à jour sur cette fonctionnalité seront partagées dans les semaines à venir. Au fur et à mesure que l’expérience progresse, Twitch et ses utilisateurs surveilleront de près si cette initiative pilotée par l’IA peut favoriser un environnement plus accueillant. Reste à savoir s’il s’agit d’un pas vers des salles de discussion plus propres ou d’une mesure temporaire. En attendant, j’aimerais qu’ils nettoient les comptes des bots.
Cette expérience rappelle que tout ce qui est partagé sur Twitch est enregistré et surveillé, même les messages privés. Elle va donc s’intéresser aux bons mots comme aux mauvais. Cette intelligence artificielle va-t-elle être développée à partir de ces données ? Ou, comment dire, la permission des utilisateurs sera-t-elle obtenue ?
Crédits de l’image en vedette : Projet de stock RDNE / Pexels
Source: Twitch va utiliser l’IA contre les jurons
