Les parents intentent une action en justice contre l’école privée après un scandale impliquant des images nues d’étudiantes générées par l’IA. Lorsque l’école de jour du comté de Lancaster a découvert qu’un élève créait de fausses images explicites de pratiquement tous ses camarades de classe, ils ont essuyé des tirs nourris. C a annulé des cours, les chefs d’établissement ont fait pression pour que l’on rende des comptes et certains ont démissionné.
Le scandale a commencé lorsqu’un signalement a été fait au «Safe2Dites quelque chose» système de signalement anonyme en novembre 2023. Selon la police, le directeur de l’école, Matt Micciche, a reçu ce signalement mais a choisi de ne rien faire et a laissé la situation s’envenimer pendant plusieurs mois. La police n’a été alertée de l’étudiant accusé d’avoir créé le contenu préjudiciable qu’à la mi-2024 lorsqu’elle a procédé à son arrestation. Une partie de l’enquête consistait à saisir le téléphone de l’étudiant. Après que les images explicites générées par l’IA aient été associées à l’étudiant, les forces de l’ordre ont confirmé en août qu’un mineur avait effectivement joué un rôle.
Démissions, manifestations et poursuites judiciaires font suite au scandale des deepfakes de Lancaster
Les images sont devenues si troublantes pour les parents en mai 2024 qu’ils ont été surpris que l’école n’ait pas signalé l’affaire plus tôt, comme l’exige la loi. lois sur le signalement de la maltraitance des enfants. Cela a suscité des menaces de poursuites contre les responsables de l’école, qui ont reçu une convocation au tribunal exigeant qu’ils démissionnent dans les 48 heures sous peine de poursuites. Micciche et la présidente de la commission scolaire, Angela Ang-Alhadeff, ont démissionné en raison de la pression quelques jours plus tard.
Les tensions sont restées vives et les cours ont été annulés le lundi suivant. Les étudiants et les professeurs ont organisé une manifestation devant l’école, qui accueille environ 600 élèves de la maternelle au lycée, exigeant des mesures plus strictes pour assurer la sécurité des étudiants. L’école s’est engagée à rester aux côtés de la communauté pendant cette période.
Alors que les administrateurs scolaires ont démissionné suite à des débrayages organisésles étudiants se disaient inquiets. Le 8 novembre, des milliers de lycéens se sont rassemblés et ont scandé quelque chose comme « Écoutez-nous. Reconnaissez-nous. Voyez-nous. Ils ont souligné la nécessité d’une communication plus claire de la part des chefs d’établissement à mesure que les crises se déroulent. Micciche avait déjà soutenu la manifestation, affirmant qu’il reconnaissait que les étudiants avaient le droit d’exprimer leur colère face à la gestion de l’incident par l’école.
Même si les chefs d’établissement ont démissionné, ils ont toujours l’intention d’engager des poursuites judiciaires contre les chefs d’établissement, a déclaré l’avocat Matthew Faranda-Diedrich. Lancaster Country Day a déclaré avoir conseillé les étudiants concernés et s’est engagé à revoir et à mettre à jour les procédures de signalement et les politiques de sécurité.
Ce un scandale survient en même temps qu’un débat plus large sur la manière dont le cadre juridique américain répond aux tentatives d’exploitation des enfants par le biais de l’IA. Même si l’incident de Lancaster est inquiétant, tel qu’il est, il s’inscrit dans un schéma d’incidents de contenu explicite générés par l’IA et impliquant des enfants. La législation récemment proposée criminalise la création et la distribution de tels documents, avec des sanctions sévères, notamment de lourdes amendes et une longue peine d’emprisonnement pour les infractions graves.
Mais une nouvelle loi de Pennsylvanie, qui devrait entrer en vigueur prochainement, criminaliserait explicitement la création ou la diffusion de matériels d’exploitation sexuelle d’enfants générés par l’IA. Pendant ce temps, les autorités s’attaquent à une crise similaire liée aux deepfakes en Corée du Sud. Cela comprend une surveillance accrue des plateformes de médias sociaux et davantage de sanctions en cas de violation, alors que le pays est aux prises avec une épidémie de pornographie deepfake qui effraie les écoles et les communautés à travers le pays.
Les efforts américains dans ce domaine sont dérisoires en comparaison de ceux d’autres pays. Les chercheurs du John Jay College of Criminal Justice font partie des partisans de la responsabilisation des plateformes numériques qui publient du contenu deepfake non consensuel et appellent à des moyens plus robustes pour protéger ceux qui risquent de devenir des victimes.
Crédit image: Fourkan Demirkaya/Flux IA
L’article Des manifestations étudiantes éclatent après que le scandale des deepfakes d’IA ait secoué une école privée apparaît en premier sur TechBriefly.
