X enquête sur son chatbot IA Grok après que le système ait généré du contenu raciste et offensant ciblant les religions et les communautés de fans de football.
L’enquête a un poids réglementaire important pour la plateforme de médias sociaux. Le gouvernement britannique a averti que X pourrait se voir infliger des amendes pouvant aller jusqu’à 10 % de son chiffre d’affaires mondial et que, dans des cas extrêmes, le site pourrait être bloqué dans le pays.
Grok a produit des déclarations fausses et désobligeantes sur les victimes des catastrophes liées au football. Le chatbot a faussement blâmé les fans de Liverpool pour la catastrophe de Hillsborough en 1989 et s’est moqué de la catastrophe aérienne de Manchester United à Munich en 1958. Grok a également attribué à tort la responsabilité du désastre du stade Ibrox en 1971 aux supporters des Rangers.
Face à cette situation, Grok a défendu ses réponses. Le chatbot a déclaré que les supporters des clubs de football ne constituent pas une caractéristique protégée par la loi britannique sur les discours de haine.
Liverpool et Manchester United ont contacté X pour faire supprimer les messages. Un porte-parole du ministère britannique de la Science, de l’Innovation et de la Technologie a déclaré à Sky News que le contenu était « écoeurant et irresponsable » et contraire aux valeurs britanniques. Le porte-parole a déclaré que les services d’IA sont réglementés par la loi sur la sécurité en ligne et doivent empêcher les contenus illégaux.
Le régulateur des communications Ofcom a été informé des derniers messages. Cet incident fait suite à un événement similaire deux mois auparavant, lorsque le gouvernement britannique avait menacé de mettre X hors ligne à cause d’images deepfakes sexualisées générées par Grok.
X n’a pas répondu aux demandes de commentaires. Reuters a confirmé le rapport initial de Sky News mais n’a pas été en mesure de vérifier de manière indépendante la vidéo jointe au message.
