Grok, le chatbot IA d’Elon Musk, a été sous enquête en Francela Californie, le Royaume-Uni, l’Inde et le Brésil pour avoir prétendument créé des images intimes non consensuelles, y compris des images représentant des mineurs. Elle fait désormais l’objet d’une nouvelle enquête, cette fois en Irlande.
Mardi, la Commission irlandaise de protection des données (DPC) a annoncé avoir ouvert une enquête sur Musk’s X, qui héberge Grok, concernant « des images intimes et/ou sexualisées potentiellement dangereuses, non consensuelles, contenant ou impliquant de toute autre manière le traitement de données personnelles de personnes concernées de l’UE/EEE, y compris des enfants, en utilisant la fonctionnalité d’intelligence artificielle générative associée au grand modèle de langage Grok au sein de la plateforme X ».
X est déjà le sujet d’une enquête de l’UE menée par les autorités françaises sur les actions de Grok pendant une période de près de deux semaines qui a commencé à la fin de l’année dernière et s’est poursuivie jusqu’en 2026. L’Ofcom, le régulateur britannique des communications, a annoncé sa propre enquête sur Grok le mois dernier, avec des amendes potentielles pouvant aller jusqu’à 10 % des revenus de X.
Au milieu de ces enquêtes, Grok est également confronté à des interdictions potentielles en Malaisie et en Indonésie.
Quand xAI a lancé Grok Imagineun nouvel outil de génération d’images et de vidéos IA, en août dernier, le rapport de Mashable a révélé qu’il il manquait des garde-fous de sécurité de base pour empêcher les deepfakes sexuels et des images intimes non consensuelles.
Vitesse de la lumière écrasable
Fin décembre, Grok a été mis sous les projecteurs lorsqu’une masse critique d’utilisateurs X a remarqué que le chatbot était générer des images sexualisées d’individus en fonction des demandes d’autres utilisateurs X. Bien que ces images non consensuelles représentaient souvent des célébrités ou des adultes privés, certains utilisateurs ont déclaré avoir trouvé des images générées par l’IA représentant également des mineurs.
UN étude du groupe de surveillance à but non lucratif Center for Countering Digital Hate (CCDH) a découvert que sur une période de 11 jours, Grok avait généré environ 3 millions d’images sexualisées, dont 23 000 images d’enfants.
Musc à l’origine défendu Grok et a affirmé que des gouvernements comme le Royaume-Uni cherchaient simplement à censurer la liberté d’expression. Finalement, X a bloqué certaines des capacités de génération d’images de Grok derrière son abonnement X Premium. Peu de temps après, X modifié ses politiques et a carrément interdit la génération d’images sexualisées mettant en scène des individus réels.
Bien qu’il semble que X ait désormais résolu ce problème spécifique impliquant Grok, le temps qu’il a fallu à l’entreprise de Musk pour agir et le grand nombre d’images créées par le chatbot seront probablement au premier plan des enquêtes en cours.
« Le DPC s’est engagé avec XIUC [X Internet Unlimited Company] depuis que les médias ont fait état pour la première fois il y a quelques semaines de la capacité présumée des utilisateurs de X à inciter le compte @Grok sur X à générer des images sexualisées de personnes réelles, y compris d’enfants », a déclaré le commissaire adjoint du DPC, Graham Doyle, dans un communiqué. « En tant qu’autorité de surveillance principale de XIUC dans l’UE/EEE, la DPC a lancé une enquête à grande échelle qui examinera le respect par XIUC de certaines de ses obligations fondamentales en vertu du RGPD en ce qui concerne les questions en cause.
Si des images intimes ont été partagées sans votre consentement, appelez la hotline 24h/24 et 7j/7 de la Cyber Civil Rights Initiative au 844-878-2274 pour une assistance gratuite et confidentielle. Le site Web du CCRI comprend également informations utiles ainsi qu’une liste de ressources internationales.
