OpenAI a publié son plan de sécurité des enfants pour renforcer les efforts américains de protection de l’enfance dans un contexte d’inquiétudes croissantes concernant l’exploitation des enfants liée à l’IA. Le plan vise à améliorer la détection, le signalement et les enquêtes sur l’exploitation des enfants grâce à l’IA.
L’Internet Watch Foundation (IWF) a signalé plus de 8 000 cas de contenus d’abus sexuels sur enfants générés par l’IA au cours du premier semestre 2025, ce qui représente une augmentation de 14 % par rapport à l’année précédente. Les criminels utilisent de plus en plus les outils d’IA pour créer de fausses images explicites d’enfants à des fins de sextorsion financière et pour générer des messages de manipulation convaincants.
Cette initiative répond à une surveillance accrue de la part des décideurs politiques, des éducateurs et des défenseurs de la sécurité des enfants, en particulier à la suite d’incidents au cours desquels de jeunes personnes se sont suicidées après des interactions avec des chatbots IA. En novembre, le Social Media Victims Law Center et le Tech Justice Law Project ont intenté sept poursuites contre OpenAI en Californie. Ces poursuites allèguent la libération prématurée du GPT-4o, affirmant que sa nature psychologiquement manipulatrice a contribué à des décès injustifiés et à de graves crises de santé mentale.
Le plan de sécurité des enfants a été élaboré en collaboration avec le Centre national pour les enfants disparus et exploités (NCMEC) et l’Alliance du procureur général, intégrant les commentaires de responsables, notamment le procureur général de Caroline du Nord, Jeff Jackson, et le procureur général de l’Utah, Derek Brown. Le plan met l’accent sur trois domaines principaux : mettre à jour la législation pour tenir compte des contenus abusifs générés par l’IA, améliorer les mécanismes de signalement pour les forces de l’ordre et intégrer des garanties préventives dans les systèmes d’IA.
OpenAI déclare que son objectif est de détecter plus efficacement les menaces potentielles et de garantir que des informations exploitables soient communiquées aux enquêteurs. Ce modèle s’appuie sur des initiatives antérieures, notamment des lignes directrices pour les interactions des utilisateurs de moins de 18 ans, qui interdisent de générer du contenu inapproprié et d’offrir des conseils susceptibles de contribuer à dissimuler un comportement dangereux aux soignants. OpenAI a également publié un plan de sécurité pour les adolescents en Inde.
