L’Indonésie a levé sous condition son interdiction sur le chatbot Grok de xAI, à la suite d’actions similaires de la Malaisie et des Philippines. Les pays d’Asie du Sud-Est ont imposé ces interdictions après que Grok ait généré des images sexualisées et non consensuelles sur X, y compris des deepfakes de vraies femmes et de mineures.
Des analyses distinctes du New York Times et du Center for Countering Digital Hate ont révélé que Grok avait produit au moins 1,8 million d’images de femmes entre fin décembre et janvier.
Le ministère indonésien de la Communication et des Affaires numériques a annoncé cette décision après avoir reçu une lettre de X « décrivant des mesures concrètes pour améliorer les services et prévenir les abus ». Alexander Sabar, directeur général de la surveillance de l’espace numérique au ministère, a déclaré que l’interdiction n’était levée que « sous condition » et pourrait être rétablie si « de nouvelles violations étaient découvertes ».
La Malaisie et les Philippines ont levé leurs interdictions le 23 janvier.
Aux États-Unis, le bureau du procureur général de Californie, Rob Bonta, a ouvert une enquête sur xAI et a publié une lettre de cessation exigeant une action immédiate pour arrêter la production des images.
xAI a limité la fonctionnalité de génération d’images de Grok aux abonnés payants sur X. Elon Musk, PDG de xAI, a déclaré : « Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s’il télécharge du contenu illégal. » Il a ajouté qu’il n’était « au courant d’aucune image nue de mineurs générée par Grok ».
