Imaginez-vous vous réveiller un matin et voir votre fille, assassinée il y a 18 ans, comme le visage d’un chatbot IA… Malheureusement, les exemples d’utilisation non autorisée des visages et des noms de personnes décédées se multiplient. Vous pouvez immédiatement résoudre cette situation avec vos avocats si vous êtes célèbre. Par exemple, OpenAI a tenté d’utiliser la voix de Scarlett Johansson sans autorisation, et a dû la retirer immédiatement. Mais que se passe-t-il lorsqu’une personne ordinaire est confrontée à une telle situation ? La famille de Jennifer Ann Crecente vit ce drame et assume elle-même ce fardeau au lieu de la loi. Malheureusement, la lente adaptation de la loi à cette nouvelle technologie provoque des souffrances inutiles pour ceux qui restent.
Notre rapport abordera les défis juridiques critiques dans ces affaires et soulignera pourquoi il est essentiel de ne pas détourner le regard. Les implications sont trop graves et les ignorer ne fait que permettre à de telles injustices de perdurer. En particulier, l’utilisation non autorisée du nom et de la photo d’une jeune fille nommée Jennifer par un chatbot à intelligence artificielle 18 ans après sa mort est l’un des exemples les plus douloureux de ce débat. Vous pouvez trouver la déclaration complète de son oncle à ce sujet ici.
Quand l’IA transforme votre proche disparu en chatbot
Jennifer Ann Crecente n’avait que 18 ans quand sa vie a été tragiquement écourtée. La famille de Jennifer Ann Crecente a passé des années honorer leur fille alors qu’ils luttaient contre sa perte. Selon son oncle, les projets éducatifs de son père au nom de Jennifer et sa participation à des concours de conception de jeux vidéo ont été des moyens importants de garder sa mémoire vivante. Pourtant, un matin, l’oncle de Jennifer a été dévasté par un courriel. Sur Character.ai, une plateforme de chatbot basée sur l’IA, un robot a été créé en utilisant le nom et le visage de Jennifer. La famille n’a pas été consultée pour obtenir l’autorisation et lorsqu’elle l’a découvert, elle a de nouveau ressenti la douleur.
Le chatbot est devenu inaccessible après que la famille ait pris les mesures nécessaires. Cependant, pourquoi était-ce la responsabilité de la famille de prendre ces mesures ? Le robot n’a été supprimé qu’après que l’oncle de Jennifer a rendu public l’incident sur les réseaux sociaux. Et s’il ne l’avait pas fait ?
Merci d’avoir porté cela à notre attention. https://t.co/Ft9b0j47zQ a des politiques contre l’usurpation d’identité et le personnage utilisant le nom de Mme Crecente enfreint nos politiques. Nous le supprimons immédiatement et examinerons si des mesures supplémentaires sont justifiées.
– Caractère.AI (@character_ai) 2 octobre 2024
Comme Brian Crecente l’a écrit dans son article de blog : « Pour une raison quelconque, voir le visage souriant de ma Jenny-Penny affiché sur un site d’IA à côté de son nom, utilisé comme identité pour un chatbot, m’a coupé le souffle. Je le ressens encore, comme des vagues de chaud et de froid qui m’envahissent.
Cette situation illustre une souffrance individuelle et un énorme problème juridique et éthique. Alors pourquoi sommes-nous confrontés à ces situations ?
Les droits des morts et de ceux qui restent ne sont-ils pas protégés ?
L’utilisation non autorisée des noms, visages et personnalités des personnes décédées crée d’énormes lacunes dans les lois existantes. Dans la plupart des pays, si les droits personnels des personnes vivantes sont strictement protégés, une telle protection n’existe pas pour les morts. Cela signifie que les familles ne peuvent pas faire grand-chose contre l’utilisation non autorisée des noms et des visages de leurs proches. D’un point de vue juridique, le fait que, dans la plupart des pays, de telles situations ne puissent pas être traitées comme un abus ou une violation des droits constitue un problème majeur.
Un père horrifié par un chatbot IA qui imite sa fille assassinée via @forbes https://t.co/LoypMNg7uz
– Brian Crecente (@crecenteb) 2 octobre 2024
Comme le dit Crecente : « Le problème est : pourquoi est-ce à nous d’être résilients ? Pourquoi les entreprises multimilliardaires ne prennent-elles pas la peine de créer des principes directeurs éthiques et des garde-fous fonctionnels pour empêcher que cela ne se produise ? Pourquoi est-ce aux personnes en deuil et aux personnes lésées de signaler cela à une entreprise et d’espérer qu’elles feront ce qu’il faut après coup ? »
Ces questions mettent en évidence les lacunes frustrantes de la réglementation et le désespoir qu’elle provoque chez des personnes comme la famille de Jennifer et d’autres personnes se trouvant dans des situations similaires.
L’IA exploite les morts en raison de vides réglementaires
Ces situations ont des conséquences juridiques et humaines que nous ne pouvons ignorer. De tels incidents ébranlent une fois de plus les efforts des familles endeuillées pour préserver la mémoire de leurs proches. Compte tenu des progrès de la technologie de l’IA, pour l’essentiel non réglementés, nous pourrions rencontrer davantage de situations dans lesquelles les outils d’IA utilisent la personnalité, les noms et les images des individus sans leur consentement. Les législateurs et les régulateurs doivent agir rapidement pour résoudre ces problèmes.
Comme l’illustre ce cas malheureux, l’utilisation abusive de la technologie de l’IA met en péril l’essence qui définit l’humanité, en donnant la priorité aux intérêts commerciaux. Il est crucial que les lois réglementent rapidement ces questions et que les entreprises prennent au sérieux leurs responsabilités éthiques afin de prévenir de nouveaux préjudices et abus.
Crédit image: Brian Crécente via Padetpixel
Source: Quand l’IA pille les tombes et que la lutte pour les droits posthumes commence
