Elon MuskGrok, le chatbot IA de , a annoncé un changement de politique censé offrir plus de protections contre deepfakes sexualisés, du moins sur X. La nouvelle politique intervient alors que la Californie lance une enquête sur la question, alors que le gouvernement britannique menace d’interdire.
“Nous avons mis en œuvre des mesures technologiques pour empêcher le compte Grok de permettre l’édition d’images de personnes réelles révélant des vêtements tels que des bikinis”, lire une déclaration publiée sur le compte X Safety juste avant 18 h HE / 15 h HP mercredi. “Cette restriction s’applique à tous les utilisateurs, y compris les abonnés payants.”
La mise à jour de X Safety a également déclaré qu’elle prend au sérieux les matériels d’abus sexuels sur enfants (CSAM) et la nudité non consensuelle avant de réitérer un autre changement récent : la création et l’édition d’images via le compte Grok sur X sont désormais limité aux abonnés.
Le compte X Safety a également annoncé qu’il avait désormais la possibilité de géobloquer « tous les utilisateurs » [sic] générer des images de vraies personnes en bikini, sous-vêtements et tenues similaires via le compte Grok et dans Grok in X dans les juridictions où c’est illégal.
Ce Tweet est actuellement indisponible. Il est peut-être en cours de chargement ou a été supprimé.
Grok et X ont fait face à un vague de contrôle au cours de la nouvelle année alors que des images sexualisées et non consensuelles de célébrités et d’enfants, suscitées par les utilisateurs et créées par son IA, ont proliféré sur X. Le procureur général de Californie, Rob Bonta, a demandé à Grok et à son développeur xAI de prendre des mesures pour supprimer et empêcher de telles images, menaçant d’utiliser “tous les outils à notre disposition” pour assurer la sécurité de ses résidents.
Vitesse de la lumière écrasable
“Ce matériel, qui représente des femmes et des enfants nus et dans des situations sexuellement explicites, a été utilisé pour harceler des personnes sur Internet”, Bonta a déclaré dans un communiqué mercredi.
Pendant ce temps, le patron de xAI/X/Grok, Elon Musk, a semblé défier les utilisateurs de « rompre la modération des images de Grok » le même jour où X Safety a annoncé ses nouvelles mises à jour de sécurité :
Ce Tweet est actuellement indisponible. Il est peut-être en cours de chargement ou a été supprimé.
Interdiction de Grok : les pays envisagent de bloquer le chatbot IA pour les contenus sexuels non consensuels
La semaine dernière, le Premier ministre britannique Keir Starmer condamné l’outil d’IA génère des images sexualisées de femmes et d’enfants, les qualifiant de « honteuses » et de « dégoûtantes ». Il a déclaré que l’Ofcom, le régulateur britannique des communications, bénéficiait du plein soutien du gouvernement pour prendre des mesures contre X et xAI. Lundi, Starmer a menacé de prendre des mesures contre Musk, affirmant que « si X ne peut pas contrôler Grok, nous le ferons ». selon un rapport de la BBC. L’Indonésie et la Malaisie déjà accès bloqué à Grok ce week-end.
Les politiciens américains ont également ciblé Grok et X, ainsi que trois sénateurs démocrates. appel sur Apple pour supprimer les services de son App Store. Les applications sont toujours disponibles sur l’App Store d’Apple mercredi soir.
Les récents changements apportés par X à sa politique pourraient refléter une reconnaissance par les dirigeants de l’entreprise du fait qu’elle n’est pas protégée par l’article 230 de la loi américaine sur la décence en matière de communication, vieille de 30 ans, selon la BBC. L’article 230 protège les entreprises technologiques des poursuites liées au contenu généré par les utilisateurs, mais les images et autres contenus créés par la propre technologie d’une application peuvent être moins imperméables à une telle immunité juridique.
