OpenAI a introduit une fonctionnalité de « prédiction d’âge » pour ChatGPT afin d’identifier les mineurs, permettant ainsi des restrictions de contenu appropriées sur leurs conversations.
Les critiques concernant l’impact de l’IA sur les jeunes se sont multipliées. ChatGPT d’OpenAI a été associé aux suicides d’adolescents. Le chatbot a également été critiqué pour avoir abordé des sujets sexuels avec de jeunes utilisateurs. Concrètement, en avril, la société a reconnu un bug permettant à son chatbot de générer du contenu érotique pour les utilisateurs de moins de 18 ans.
OpenAI s’attaque au problème des utilisateurs mineurs. La nouvelle fonctionnalité « prédiction de l’âge » complète les protections existantes. Cette fonctionnalité utilise un algorithme d’IA pour analyser les « signaux comportementaux et au niveau du compte » des comptes d’utilisateurs afin de détecter les jeunes utilisateurs, comme détaillé dans un article de blog de l’entreprise publié mardi.
Ces « signaux » englobent l’âge déclaré de l’utilisateur, la longévité du compte et les heures d’activité typiques. OpenAI utilise actuellement des filtres de contenu pour exclure les discussions sur le contenu sexuel, la violence et d’autres sujets jugés problématiques pour les utilisateurs de moins de 18 ans. Si le mécanisme de prédiction d’âge identifie un compte comme appartenant à un mineur, ces filtres sont appliqués automatiquement.
Les utilisateurs classés par erreur comme mineurs peuvent annuler le statut de leur compte. Ils peuvent soumettre un selfie au partenaire de vérification d’identité d’OpenAI, Persona, pour vérifier leur âge.
