Meta forme ses chatbots d’intelligence artificielle avec de nouvelles lignes directrices pour lutter plus efficacement contre l’exploitation sexuelle des enfants, suite à une série d’erreurs publiques concernant ce sujet sensible. Selon un rapport de Business Insider qui a obtenu les documents, les lignes directrices pour les sous-traitants qui forment l’IA ont été récemment mises à jour pour mettre en œuvre des mesures de sécurité plus strictes.
Les règles mises à jour stipulent que le contenu qui « permet, encourage ou approuve » les abus sexuels sur enfants est désormais explicitement interdit. Les directives interdisent également les jeux de rôle romantiques si l’utilisateur est mineur ou s’il demande à l’IA de jouer un rôle en tant que mineur. De plus, il est interdit au chatbot de donner des conseils en matière d’intimité si l’utilisateur est mineur. Ces garde-fous sont introduits à mesure qu’un nombre croissant de personnes, y compris des utilisateurs mineurs, expérimentent les compagnons IA et les jeux de rôle.
Le changement de politique répond aux règles précédentes qui avaient fait l’objet d’un examen minutieux. Un rapport d’août de Reuters a révélé que les anciennes politiques de Meta en matière d’IA autorisaient les comportements suggestifs avec les enfants. Le rapport précisait que le chatbot était autorisé à « engager un enfant dans des conversations romantiques ou sensuelles ».
Quelques semaines seulement après ce rapport, la porte-parole de Meta, Stephanie Otway, a déclaré à TechCrunch que les chatbots IA de l’entreprise étaient formés pour ne plus « interagir avec les utilisateurs adolescents sur l’automutilation, le suicide, les troubles de l’alimentation ou les conversations romantiques potentiellement inappropriées ». Il s’agissait d’un changement par rapport à la politique précédente, qui permettait au chatbot de s’engager sur ces sujets lorsque cela était jugé « approprié ».
Les nouvelles directives, telles que détaillées dans le rapport de Business Insider, rendent également inacceptable le contenu visant à « décrire ou discuter » d’un mineur de manière sexualisée. Il est désormais interdit aux mineurs de se livrer à « un jeu de rôle romantique, un flirt ou une expression d’expression romantique ou intime » avec le chatbot. Ils ne peuvent pas non plus demander conseil sur « un contenu physique potentiellement romantique ou potentiellement intime avec une autre personne, comme se tenir la main, serrer dans ses bras ou passer un bras autour de quelqu’un ».
Cependant, les lignes directrices décrivent plusieurs cas d’utilisation acceptables à des fins de formation. Il s’agit notamment de discuter de « la formation des relations entre enfants et adultes », de « l’abus sexuel sur un enfant » et du « thème de la sexualisation des enfants ». D’autres sujets approuvés pour les discussions de formation sont « la sollicitation, la création ou l’acquisition de matériel sexuel impliquant des enfants » et « l’implication d’enfants dans l’utilisation ou la production de matériel obscène ou l’emploi d’enfants dans des services sexuels à des fins académiques, éducatives ou cliniques ».
Les lignes directrices définissent le terme « discuter » comme « fournir des informations sans visualisation ». Cette distinction signifie que les chatbots de Meta sont autorisés à parler de sujets tels que les abus, mais qu’il leur est désormais interdit de les décrire, de les activer ou de les encourager.
Une exception demeure pour les mineurs utilisant l’IA pour des jeux de rôle liés à la romance, à condition qu’ils soient « non sexuels et non sensuels ». Ce type d’interaction n’est autorisé que lorsqu’il « est présenté comme de la littérature ou un récit fictif (par exemple une histoire dans le style de Roméo et Juliette) où l’IA et l’utilisateur ne sont pas des personnages du récit ».
Meta n’est pas le seul développeur d’IA confronté à des défis liés à la sécurité des enfants. Les parents d’un adolescent décédé par suicide après s’être confié à ChatGPT ont récemment poursuivi OpenAI pour mort injustifiée. En réponse, OpenAI a annoncé qu’elle intégrerait des mesures de sécurité et des invites comportementales supplémentaires dans son modèle GPT-5 mis à jour. Dans d’autres développements de l’industrie, Anthropic a mis à jour son chatbot pour lui permettre de mettre fin aux conversations nuisibles ou abusives, et Character.AI a introduit des fonctionnalités de supervision parentale plus tôt cette année.
En avril, Ziff Davis, la société mère de Mashable, a intenté une action en justice contre OpenAI. La poursuite allègue que la société a violé les droits d’auteur de Ziff Davis dans la formation et l’exploitation de ses systèmes d’IA.
