OpenAI a approuvé le Kids Online Safety Act (KOSA) dans le cadre de son engagement à établir des « règles spécifiques à l’IA » pour la sécurité des enfants. Cette approbation coïncide avec le passage de KOSA au Sénat en 2024 ; le projet de loi a été présenté pour la première fois en 2022.
KOSA exige que les sociétés de médias sociaux et les plateformes en ligne renforcent la protection des enfants. La version actuelle exige que les applications de médias sociaux permettent aux mineurs de désactiver les fonctionnalités « addictives » et les recommandations algorithmiques. Les plateformes en ligne auront également un « devoir de diligence » pour lutter contre les contenus préjudiciables liés aux troubles de l’alimentation, au suicide et à l’exploitation sexuelle.
D’autres entreprises technologiques, notamment Apple, Microsoft, Snap et X, ont également exprimé leur soutien à KOSA. À l’inverse, NetChoice, un groupe professionnel comptant des membres comme Meta, s’oppose au projet de loi, affirmant qu’il pourrait conduire à une censure sans améliorer la sécurité des enfants. Des organisations de protection de la vie privée et de droits numériques telles que l’Electronic Frontier Foundation ont également exprimé leur opposition au KOSA.
OpenAI a déclaré que KOSA est « complémentaire » aux mesures de sécurité déjà en place. Chris Lehane, directeur des affaires mondiales, a souligné l’importance de mesures de protection plus strictes, notant : « Nous ne pouvons pas répéter les erreurs commises lors de l’essor des médias sociaux, lorsque des mesures de protection plus strictes pour les adolescents n’ont été mises en place que lorsque les plateformes étaient déjà profondément ancrées dans la vie des jeunes. »
Actuellement, OpenAI fait face à plusieurs poursuites alléguant des manquements à la sécurité liés à ChatGPT. Un procès implique une famille affirmant une mort injustifiée après qu’un adolescent ait discuté de projets suicidaires avec le chatbot. Un autre procès allègue qu’un adolescent a accidentellement fait une surdose de drogues en raison de mauvais conseils médicaux reçus de ChatGPT.
