Roblox a lancé une fonctionnalité de reformulation de chat en temps réel, alimentée par l’IA, pour remplacer les mots interdits par un langage plus respectueux. Le nouveau système remplace le filtre précédent de la plateforme, qui censurait simplement les textes interdits comportant des symboles de hachage. Roblox a déclaré que le changement visait à éviter que les conversations ne soient perturbées et difficiles à suivre.
La fonctionnalité reformule le texte filtré pour rester proche de l’intention initiale de l’utilisateur tout en préservant la courtoisie. Par exemple, le message « Dépêchez-vous TF ! » apparaîtra désormais comme « Dépêchez-vous ! » au lieu de “####.” L’entreprise informe tous les utilisateurs d’un chat lorsqu’un message a été reformulé.
“La reformulation en temps réel aide à maintenir le gameplay et les conversations sur la bonne voie tout en guidant le langage vers ce qui est approprié”, a déclaré Rajiv Bhatia, vice-président des produits utilisateur et découverte chez Roblox. “Cette approche réduit les frictions dans le chat tout en maintenant les normes qui contribuent à maintenir notre communauté civile.”
L’outil de reformulation prend en charge toutes les langues disponibles via les outils de traduction automatique de Roblox. Roblox met également à niveau son système de filtrage de texte pour détecter le leetspeak et d’autres tentatives sophistiquées de contournement des filtres. La société a indiqué que ces mises à niveau réduisaient de 20 fois les faux négatifs lors du partage ou de la sollicitation d’informations personnelles.
Cette annonce fait suite à l’introduction par Roblox de la vérification faciale obligatoire pour l’accès au chat. L’exigence de vérification a été mise en œuvre à la suite de poursuites intentées par les procureurs généraux du Texas, du Kentucky et de la Louisiane concernant les risques pour la sécurité des enfants. Les actions en justice ont été motivées par des informations faisant état de jeunes utilisateurs confrontés à des dangers tels que le toilettage et le contenu explicite sur la plateforme.
