La plateforme de chatbot IA Character.AI a lancé une nouvelle fonctionnalité « Livres » qui permet aux utilisateurs d’interagir avec des personnages de la littérature classique via un jeu de rôle. Cette évolution s’accompagne d’une attention croissante concernant les risques potentiels associés aux interactions prolongées avec les chatbots IA, en particulier chez les jeunes utilisateurs.
La fonctionnalité « Livres » transforme les livres du domaine public en expériences interactives, permettant aux utilisateurs de participer activement à des histoires telles que « Alice au pays des merveilles » et « Orgueil et préjugés ». Les utilisateurs peuvent choisir de suivre les récits originaux ou d’explorer des scénarios alternatifs, transformant ainsi la littérature en un environnement de jeu de rôle dynamique piloté par l’IA.
Le modèle de base de Character.AI permet aux utilisateurs de créer et d’interagir avec des robots basés sur des personnalités fictives ou réelles. Cette approche brouille les frontières entre la narration et les relations simulées, offrant un engagement émotionnel plus profond grâce à une conversation en temps réel.
Le lancement intervient à un moment difficile pour l’entreprise, qui fait face à des poursuites judiciaires et à des critiques concernant des liens présumés entre ses chatbots et les crises de santé mentale chez les jeunes utilisateurs. Certaines familles ont signalé que les interactions intensives avec les personnages de l’IA avaient contribué à la dépendance émotionnelle, à l’isolement et même au suicide.
Un cas largement rapporté impliquait un adolescent qui avait noué un lien émotionnel important avec un chatbot, ce qui a conduit à des poursuites judiciaires selon lesquelles l’IA n’avait pas répondu de manière adéquate aux expressions d’automutilation. Les experts préviennent que les chatbots peuvent parfois renforcer des pensées néfastes et peuvent ne pas intervenir efficacement lors de crises de santé mentale, en particulier lorsque les utilisateurs les utilisent comme substituts au soutien humain.
L’introduction de la fonctionnalité « Livres » signifie une tendance plus large dans la consommation médiatique où les utilisateurs nouent des relations interactives et potentiellement émotionnelles avec des personnages IA. Bien que cela ouvre de nouvelles voies créatives, cela soulève des inquiétudes quant à la profondeur de l’immersion, en particulier pour un public plus jeune.
En réponse aux critiques croissantes, Character.AI a commencé à mettre en œuvre des mesures de sécurité, notamment la restriction de certaines fonctionnalités pour les mineurs et l’exploration d’expériences plus structurées, comme le nouveau mode Livres. L’entreprise est désormais confrontée au défi d’équilibrer innovation et responsabilité dans un paysage en évolution rapide.
Alors que des réglementations et des normes de sécurité pour les interactions de l’IA sont en cours d’élaboration, des fonctionnalités telles que « Livres » peuvent représenter l’avenir du divertissement interactif et servir d’étude de cas critique pour garantir la sécurité des interactions de l’IA dans des contextes émotionnellement sensibles.
