Instagram a annoncé qu’il alerterait les parents si leur adolescent cherchait à plusieurs reprises des termes relatifs au suicide ou à l’automutilation dans un court laps de temps. Les alertes seront lancées dans les prochaines semaines pour les parents inscrits aux outils de supervision parentale de la plateforme. Alors qu’Instagram bloque déjà les recherches de contenu suicidaire et d’automutilation, la nouvelle fonctionnalité ajoute une couche de notification pour informer les parents des tentatives répétées. L’entreprise a pour objectif d’aider les parents à les accompagner lorsqu’ils ont connaissance de ces recherches.
Les recherches déclenchantes incluent des expressions encourageant le suicide ou l’automutilation, des termes indiquant qu’un adolescent pourrait être à risque et des mots tels que « suicide » ou « automutilation ». Les parents recevront des alertes par e-mail, SMS ou WhatsApp, en fonction des informations de contact fournies. Ils recevront également une notification dans l’application contenant des ressources pour les aider à aborder les conversations avec leur adolescent. Instagram a déclaré avoir analysé le comportement de recherche et consulté son groupe consultatif sur le suicide et l’automutilation pour fixer le seuil. Le seuil nécessite quelques recherches dans un court laps de temps, et l’entreprise a choisi de pécher par excès de prudence. Instagram a indiqué qu’il visait à éviter les notifications inutiles pour maintenir leur efficacité.
L’annonce coïncide avec des poursuites en cours contre Meta et d’autres sociétés technologiques concernant les préjudices causés aux adolescents. Lors de son témoignage devant le tribunal de district américain du district nord de Californie cette semaine, le responsable d’Instagram, Adam Mosseri, a été confronté à des questions concernant le déploiement retardé des dispositifs de sécurité. Les procureurs dans une affaire de dépendance aux médias sociaux en cours ont spécifiquement remis en question le retard d’un filtre de nudité pour les messages privés destinés aux adolescents. Mosseri a témoigné dans le cadre de ce litige.
Dans un procès distinct devant la Cour supérieure du comté de Los Angeles, une recherche interne sur Meta a été révélée. L’étude a révélé que la supervision et le contrôle parental avaient peu d’impact sur l’utilisation compulsive des médias sociaux par les enfants. La même recherche a indiqué que les enfants confrontés à des événements stressants de la vie étaient plus susceptibles d’avoir du mal à réguler leur utilisation des médias sociaux. Le timing des nouvelles alertes suit ces évolutions juridiques et conclusions internes.
Les alertes seront déployées la semaine prochaine aux États-Unis, au Royaume-Uni, en Australie et au Canada. Instagram prévoit d’étendre cette fonctionnalité à d’autres régions plus tard cette année. La société a également l’intention de lancer à terme des notifications similaires lorsque des adolescents tentent de discuter de suicide ou d’automutilation avec l’IA de l’application.
