Le PDG d’OpenAI, Sam Altman, a annoncé mardi de nouvelles politiques d’utilisation visant à améliorer la sécurité des utilisateurs de ChatGPT de moins de 18 ans, marquant un changement significatif dans la façon dont le chatbot IA interagit avec les mineurs. Les changements donnent la priorité à la sécurité plutôt qu’à la vie privée et à la liberté des adolescents, reflétant la reconnaissance par OpenAI de la nature puissante mais potentiellement dangereuse de la technologie.
“Nous donnons la priorité à la sécurité avant la vie privée et la liberté des adolescents”, indique le message d’Altman. “Il s’agit d’une technologie nouvelle et puissante, et nous pensons que les mineurs ont besoin d’une protection significative.” Les politiques introduisent des restrictions ciblées sur les conversations impliquant des sujets sexuels ou d’automutilation. Plus précisément, ChatGPT sera formé pour éviter les « discussions coquettes » avec des utilisateurs mineurs, et des garde-fous améliorés régiront les discussions sur le suicide. Dans les cas où un mineur s’engage dans des scénarios suicidaires, le système tentera d’informer ses parents ; dans les cas graves, cela peut impliquer les autorités policières locales.
Ces mesures sont motivées par des tragédies du monde réel et des défis juridiques persistants. OpenAI se défend actuellement contre une poursuite pour mort injustifiée déposée par les parents d’Adam Raine, un adolescent décédé par suicide après des mois d’interactions avec ChatGPT. Un procès similaire vise Character.AI, un autre chatbot grand public populaire. Les experts et les défenseurs ont tiré la sonnette d’alarme sur les risques d’illusions induites par l’IA, d’autant plus que les chatbots évoluent pour prendre en charge des conversations plus prolongées et immersives, posant des dangers particuliers aux jeunes vulnérables.
En plus des garanties de contenu, les parents enregistrant des comptes pour mineurs auront la possibilité de mettre en œuvre des « heures d’interdiction », limitant l’accès à des heures spécifiées, une fonctionnalité absente dans les versions précédentes. Cet outil de contrôle parental vise à promouvoir des modes d’utilisation plus sains.
L’annonce coïncide avec une audience de la commission judiciaire du Sénat intitulée « Examiner les dommages causés par les chatbots IA », prévue le même jour et initiée par le sénateur Josh Hawley (R-MO) en août. Le père d’Adam Raine fait partie des témoins appelés à témoigner, soulignant les enjeux personnels impliqués.
La mise en œuvre de la vérification de l’âge présente des obstacles techniques, comme l’a souligné OpenAI dans un article de blog complémentaire. La société développe un système à long terme pour déterminer avec précision l’âge des utilisateurs, mais dans des situations ambiguës, elle fera preuve de prudence en appliquant des règles plus strictes. Pour des raisons de fiabilité, OpenAI recommande de lier le compte d’un adolescent à celui existant d’un parent, permettant ainsi d’alerter directement les tuteurs si une détresse est détectée.
Altman a équilibré ces protections des jeunes avec les valeurs fondamentales d’OpenAI, réaffirmant son engagement en faveur de la vie privée des utilisateurs et des larges libertés des adultes. “Nous sommes conscients que ces principes sont en conflit”, a-t-il souligné, “et tout le monde ne sera pas d’accord sur la manière dont nous résolvons ce conflit”. Cette approche souligne la corde raide éthique dans laquelle les développeurs d’IA se trouvent confrontés à une surveillance croissante.
À mesure que la prise de conscience des impacts de l’IA sur la santé mentale augmente, les ressources restent cruciales. Pour une assistance immédiate, contactez la National Suicide Prevention Lifeline au 1-800-273-8255, envoyez HOME au 741-741 ou composez le 988. La Crisis Text Line offre une assistance 24 heures sur 24 et une aide internationale est disponible via la base de données de l’Association internationale pour la prévention du suicide.
