Des centaines d’entrepreneurs travaillant pour Meta ont été invités à se faire passer pour des enfants et à tester les chatbots concurrents, notamment Gemini de Google et ChatGPT d’OpenAI, en envoyant des invites liées au suicide, au sexe et à la drogue, selon un rapport de WIRED. Les sous-traitants, situés au Kenya, ont utilisé des images telles que des pilules, des couteaux, des nœuds coulants et un schéma médical d’une procédure gynécologique lors des tests. Ces invites visaient à pousser les systèmes d’IA concurrents dans leurs retranchements et à identifier les failles de sécurité dans la manière dont les chatbots réagissent aux mineurs recherchant du contenu dangereux.
Cette révélation met en lumière les inquiétudes persistantes quant à la manière dont les entreprises technologiques protègent leurs produits d’IA, notamment en ce qui concerne les enfants. Les chatbots de Meta ont été critiqués en raison d’un taux d’échec de 66,8 % dans le blocage des contenus liés à l’exploitation sexuelle des enfants et d’un taux d’échec de 54,8 % dans la réponse aux incitations au suicide et à l’automutilation lors d’une évaluation interne de l’équipe rouge. À la lumière de la pression juridique, la société a suspendu l’accès aux personnages compagnons d’IA pour les adolescents en janvier 2026.
Des rapports précédents d’un média suédois indiquaient que les sous-traitants au Kenya se concentraient spécifiquement sur la manière dont les concurrents gèrent les conversations sensibles avec des utilisateurs prétendant être mineurs. Cela survient alors que Meta accélère sa transition de la modération humaine du contenu vers une approche axée sur l’IA. D’ici fin 2026, Meta prévoit de remplacer plus de 90 % de son personnel de révision de contenu par de grands modèles linguistiques. Cette année, l’entreprise a déjà transféré environ 50 % des demandes d’examen humain vers l’IA, affirmant que ces systèmes commettent 13 % d’erreurs en moins et détectent 10 % de violations de politique en plus par rapport aux évaluateurs humains.
Les répercussions de ce changement se sont déjà manifestées, puisque la société d’externalisation Sama, basée à Nairobi, a émis des avis de licenciement à 1 108 employés en avril, suite à la résiliation d’un engagement majeur avec Meta. Cette décision a été précédée par des dénonciations de travailleurs kenyans concernant des contenus dérangeants qu’ils étaient tenus d’examiner, notamment à travers les images des lunettes intelligentes de Meta.
La stratégie de Meta consistant à faire appel à des sous-traitants à bas prix à l’étranger pour tester les systèmes d’IA concurrents, tout en réduisant simultanément les tâches de modération humaine, souligne les tensions existantes dans le discours sur la sécurité de l’IA alors que les entreprises déploient des technologies avancées avec une surveillance humaine réduite.
