Alors que les décideurs politiques américains et les gros titres des médias se sont historiquement concentrés sur des plateformes comme Instagram, Facebook, YouTube, TikTok et X, un changement important se produit alors que les jeunes utilisent de plus en plus les jeux et les plateformes adjacentes aux jeux pour interagir socialement. Ces conversations, qui se déroulent sur des services tels que Discord, Roblox et Steam, sont généralement anonymes et largement cachées à la vue du public.
Ces plates-formes, conçues à l’origine pour connecter les joueurs, sont devenues des centres principaux de discours social et d’interaction authentique, d’autant plus que les applications grand public donnent la priorité au contenu conçu pour la viralité. Cette évolution a donné lieu à un nouvel examen, en mettant l’accent sur la façon dont ces forums fermés peuvent abriter de la haine et de l’exploitation, des problèmes qui restent souvent cachés jusqu’à ce qu’ils se manifestent par des dommages réels.
Les applications de médias sociaux grand public sont structurées pour élever et amplifier le contenu publiquement, ce qui en fait des outils efficaces pour diffuser des idéologies, des rumeurs ou de la désinformation. Cependant, bon nombre de ces idées prennent d’abord racine dans des forums plus petits et plus privés sur les plateformes de jeux. Les groupes extrémistes qui ont été exclus des services traditionnels ont par conséquent trouvé de nouveaux foyers dans ces espaces.
Contrairement aux applications publiques, les utilisateurs des plateformes de jeux sont plus habitués à utiliser des pseudonymes. Cette pratique d’utilisation de pseudo-identités facilite l’échange anonyme d’idées radicales et taboues.
Mariana Olaizola Rosenblat, conseillère politique en matière de technologie et de droit à NYU Stern, explique que l’architecture même de ces plateformes axées sur les jeux est un facteur clé dans la prolifération de contenus dangereux. « Les extrémistes et les prédateurs se rendent dans ces espaces de jeu pour trouver des jeunes très engagés et susceptibles, dont beaucoup aspirent à créer des liens », dit-elle.
Les petits salons de discussion privés où se déroulent souvent des conversations nuisibles sont généralement fermés aux observateurs extérieurs. “La plupart des chercheurs sont fondamentalement aveugles à tout cela. Vous ne pouvez pas entrer dans ces pièces”, note Rosenblat. Les utilisateurs exploitent également le contexte du jeu, en utilisant le « langage du jeu » pour dissimuler des concepts extrémistes ou dangereux, ce qui brouille la distinction entre le jeu de rôle et l’intention du monde réel. Même si les plateformes elles-mêmes ont un accès technique à ce contenu, le volume même de ce contenu fait de son suivi un défi de taille. Rosenblat observe que la plupart n’ont pas suffisamment investi dans les mesures de protection ou les ressources de modération nécessaires pour protéger les jeunes utilisateurs.
Il est important de noter que la majorité des conversations sur ces plateformes sont ordinaires. Ils vont des discussions sur les jeux et la participation à des groupes d’étude aux fandoms sportifs et aux forums communautaires de quartier. Néanmoins, ces mêmes environnements sont également devenus un terrain fertile pour la radicalisation et l’exploitation, avec un nombre croissant d’incidents mettant le problème en lumière.
Discord fait l’objet d’un nouvel examen après que le suspect du meurtre de Charlie Kirk ait semblé avouer lors d’un chat Discord. La plateforme a également été utilisée par les organisateurs du rassemblement Unite the Right 2017 à Charlottesville pour coordonner la logistique, y compris le covoiturage et l’hébergement. Dans un autre incident, le tireur qui a tué 10 personnes dans un quartier noir de Buffalo en 2022 a documenté des mois de sa planification dans un chat Discord privé. De plus, une enquête menée en 2018 par The Daily Beast a découvert des centaines de cas de vengeance pornographique partagée sur des serveurs Discord.
Roblox, une plateforme commercialisée directement auprès des enfants, a suscité de vives critiques pour le contenu sexuel, prédateur et extrémiste qui apparaît sur son service. L’entreprise fait actuellement face à plusieurs poursuites. Une plainte déposée par l’État de Louisiane allègue que Roblox n’a pas réussi à protéger les enfants. Une autre a été déposée par une famille de l’Iowa après que leur fille de 13 ans ait été kidnappée, victime de trafic et violée par un prédateur qu’elle a rencontré sur la plate-forme.
Un porte-parole de Roblox a fourni une déclaration concernant ses pratiques de sécurité :
“Bien que nous ne puissions pas commenter les réclamations soulevées dans le cadre d’un litige, chez Roblox, nous nous efforçons de nous conformer aux normes de sécurité les plus élevées. Nous investissons des ressources importantes dans une technologie de sécurité avancée, y compris une combinaison d’équipes d’apprentissage automatique et de modération humaine travaillant 24 heures sur 24 et 7 jours sur 7 pour détecter et traiter les contenus et comportements inappropriés. “
La fusillade de Buffalo en 2022 a été diffusée en direct sur Twitch, la plateforme de jeu appartenant à Amazon. Twitch a condamné l’attaque, a rapidement supprimé la vidéo et a déclaré qu’il travaillait en étroite collaboration avec les forces de l’ordre pour enquêter sur l’incident.
En 2021, des chercheurs ont découvert que la plateforme Steam était devenue un espace de réseautage pour les idéologies d’extrême droite, hébergeant des groupes promouvant des organisations néonazies.
Suite au meurtre de Charlie Kirk, les plateformes de jeux font l’objet d’une attention accrue de la part des décideurs politiques américains. Le président de la surveillance de la Chambre, James Comer (R-Ky.) a demandé aux PDG de Discord, Steam, Twitch et Reddit de témoigner devant le Congrès le 8 octobre sur la question de la radicalisation des utilisateurs sur leurs plateformes.
