OpenAI a annoncé jeudi avoir suspendu la possibilité pour les utilisateurs de son modèle vidéo d’IA, Sora, de générer des vidéos ressemblant au défunt militant des droits civiques Martin Luther King Jr. La société a déclaré que cette mesure avait été prise à la demande de la succession du Dr King après que certains utilisateurs aient créé des « représentations irrespectueuses » de son image.
Dans un article de son compte de rédaction officiel sur X, OpenAI a déclaré : « Bien qu’il existe de forts intérêts en matière de liberté d’expression dans la représentation de personnages historiques, OpenAI estime que les personnalités publiques et leurs familles devraient en fin de compte avoir le contrôle sur la manière dont leur image est utilisée. » La société a ajouté : « Les représentants autorisés ou les propriétaires fonciers peuvent demander que leur image ne soit pas utilisée dans les camées Sora. »
Cette restriction fait suite au lancement de la plateforme de vidéos sociales Sora quelques semaines plus tôt. La plate-forme permet aux utilisateurs de créer des vidéos réalistes générées par l’IA ressemblant à des personnages historiques, à des amis et à d’autres utilisateurs qui choisissent de recréer leur image. Ce lancement a suscité un débat public sur les dangers potentiels des vidéos générées par l’IA et sur la nécessité pour les plateformes de mettre en œuvre des mesures de protection.
La semaine dernière, la fille du Dr King, le Dr Bernice King, a publié sur Instagram demandant aux gens de cesser de lui envoyer des vidéos d’IA qui ressemblaient à son père. De même, la fille de Robin Williams a demandé aux utilisateurs de Sora de cesser de créer des vidéos IA de son père.
Le Washington Post a rapporté plus tôt cette semaine que les utilisateurs de Sora avaient produit des vidéos générées par l’IA montrant le Dr King faisant des bruits de singe et luttant avec son collègue leader des droits civiques Malcolm X. L’application Sora contient également des vidéos grossières ressemblant à d’autres personnages historiques, notamment l’artiste Bob Ross, la chanteuse Whitney Houston et l’ancien président John F. Kennedy.
Le concédant de licence de la succession du Dr King n’avait pas immédiatement répondu à une demande de commentaires de TechCrunch. Le lancement de Sora a également soulevé des questions sur la manière dont les plateformes de médias sociaux devraient gérer les vidéos générées par l’IA à partir de matériel protégé par le droit d’auteur, car l’application contient des vidéos présentant des dessins animés tels que Bob l’éponge, South Park et Pokémon.
