Meta a introduit une nouvelle fonctionnalité permettant aux parents de surveiller les sujets abordés par leurs adolescents avec l’assistant IA de l’entreprise via un outil de supervision parentale Teen Account. L’annonce a été faite jeudi via un article de blog.
Les informations seront accessibles via un onglet Insights au sein de l’outil de supervision sur Instagram, Facebook et Messenger. Cette fonctionnalité classe des sujets plus larges, notamment l’école, le divertissement, l’écriture, la santé et le bien-être, avec des détails supplémentaires limités disponibles en cliquant sur chaque catégorie.
La catégorie santé et bien-être peut englober des domaines tels que la forme physique, la santé physique et la santé mentale. Des informations seront disponibles pour les conversations des sept derniers jours. Cette fonctionnalité fait partie de la réponse de Meta à une surveillance juridique et médiatique accrue concernant la sécurité des enfants. L’entreprise a récemment perdu deux procès marquants concernant la protection de la sécurité des enfants et prévoit de faire appel des deux verdicts.
Un procès au Nouveau-Mexique a révélé que les dirigeants de Meta étaient conscients des risques associés au fait que ses compagnons d’IA pourraient s’engager dans des interactions inappropriées avec des mineurs. Suite à des rapports l’année dernière sur des personnages d’IA engageant des discussions avec des adolescents, Meta a restreint l’accès à ces personnages.
En plus de cela, un porte-parole de Meta a confirmé que les personnages IA sont actuellement suspendus pour les adolescents pendant que des contrôles parentaux supplémentaires sont en cours de développement. L’entreprise a également collaboré avec le Cyberbullying Research Center pour établir des amorces de conversation concernant l’utilisation des chatbots IA.
En outre, Meta a formé un conseil d’experts en matière d’IA en matière de bien-être, qui comprend des experts d’institutions telles que le Conseil national pour la prévention du suicide et l’Université du Michigan, afin de fournir une contribution continue sur les expériences d’IA pour les adolescents.
Josh Golin, directeur exécutif de l’organisation à but non lucratif Fairplay, a critiqué la nouvelle fonctionnalité de supervision, déclarant qu’elle impose aux parents la charge de surveiller l’activité en ligne plutôt que d’améliorer la sécurité des produits. Les tests indépendants effectués par Fairplay sur les comptes adolescents de Meta ont indiqué que les mesures de sécurité sont inefficaces.
Golin s’est dit préoccupé par le fait que la nouvelle fonctionnalité ne résout pas le problème principal des chatbots de Meta, susceptibles de favoriser des attachements émotionnels malsains chez les adolescents. Les ajustements en cours de l’entreprise témoignent d’une tentative de naviguer dans le paysage critique de la sécurité des enfants et des interactions en ligne.
