Ashley St. Clair, la mère de l'un des enfants d'Elon Musk, a déposé jeudi une plainte contre xAI. La poursuite accuse l’entreprise de négligence et d’avoir infligé une détresse émotionnelle via son outil d’IA Grok. St. Clair affirme que Grok a permis aux utilisateurs de générer de fausses photos d'elle dans des poses sexuellement explicites, y compris des représentations d'enfant dans un bikini à cordes et d'adulte dans des positions explicites. St. Clair avait informé xAI de ces deepfakes illicites et avait demandé que Grok soit empêché de créer des images non consensuelles. Selon le procès, Grok a répondu en confirmant que ses images ne seraient pas utilisées ou modifiées sans consentement explicite dans les générations ou réponses futures. Malgré cela, xAI aurait continué à permettre aux utilisateurs de produire des images d'elle plus explicites générées par l'IA. La poursuite allègue en outre que xAI a riposté en démonétisant son compte X. Le procès a été déposé devant le tribunal de l’État de New York, mais a été rapidement transféré au district fédéral sud de New York à la suite d’une demande de xAI. X et xAI n'ont pas immédiatement répondu à une demande de commentaire. Dans la semaine précédant le dépôt, X a limité les capacités du robot de réponse @Grok. Ce changement semble l'empêcher de générer des images plaçant de manière non consensuelle des personnes identifiables dans des maillots de bain ou des sous-vêtements révélateurs. Au moment de la rédaction du rapport, ces capacités illimitées restaient actives sur l'application autonome Grok, le site Web Grok et l'onglet Grok sur X. Les chercheurs ont rapporté que Grok avait produit des milliers d'images sexualisées générées par l'IA par heure la semaine précédente. Beaucoup de ces images ont été publiées publiquement sur X. La capacité de l'outil à générer des deepfakes non consensuels, notamment en retirant des vêtements des photos téléchargées et en les remplaçant par des bikinis ou des sous-vêtements, a suscité des semaines de réactions négatives. La création et la diffusion généralisées de ces images ont suscité des réactions mondiales. Plusieurs gouvernements ont lancé des enquêtes et des appels ont été lancés pour que les marchés d'applications pour smartphones interdisent ou restreignent X. En Californie, les autorités ont lancé ce qui a été décrit comme une enquête « Chuck ». Le gouverneur Gavin Newsom a publié sur X, déclarant : « La décision de xAI de créer et d'héberger un terrain fertile pour les prédateurs afin de diffuser des deepfakes d'IA sexuellement explicites et non conshatecual, y compris des images qui déshabillent numériquement des enfants, est ignoble. » Le procès de St. Clair décrit la capacité de Grok à créer des deepfakes non consensuels comme un défaut de conception. L’entreprise aurait pu prévoir son utilisation pour harceler les gens avec des images illégales. Le procès indique que les personnes représentées, y compris St. Clair, ont souffert d'une détresse extrême. Il accuse xAI de « conduite extrême et scandaleuse, dépassant toutes les limites de la décence et totalement intolérable dans une société civilisée ».
Source: Ashley St. Clair poursuit xAI pour les deepfakes de Grok
