Un camion arborant un message contre Grok et X en raison des contenus IA pédopornographiques présents sur la plateforme, à Londres, le 14 janvier 2026. MAJA SMIEJKOWSKA/REUTERS
Le réseau social X a annoncé, mercredi 14 janvier, avoir pris des mesures pour « empêcher » Grok, son outil de génération de textes et d’images, d’y « déshabiller » des « personnes réelles », en réponse à une vague d’indignation mondiale et à la pression d’autorités de plusieurs pays.
Lire aussi | Article réservé à nos abonnés IA Grok : la moitié des images générées pendant les fêtes représentaient des personnes partiellement dénudées
« Nous avons mis en place des mesures technologiques pour empêcher le compte @Grok de permettre l’édition d’images de personnes réelles dans des tenues révélatrices, comme des bikinis », a précisé le réseau social d’Elon Musk dans un message publié sur la plateforme. Une mesure censée s’appliquer également à l’onglet « Grok », qui permet d’accéder à l’outil depuis les menus de X.
« Cette restriction s’applique à tous les utilisateurs, y compris les abonnés payants »,est-il ajouté, alors que, depuis le 9 janvier, la génération d’images avec le compte @Grok, l’assistant IA développé par xAI, avait été limitée aux seuls abonnés payants, une mesure toutefois jugée insuffisante par de nombreuses critiques.
Le message de la plateforme laisse néanmoins planer une incertitude, puisqu’il précise ensuite appliquer un « blocage géographique » là où la loi l’exige. Dans les faits, si, en France, les deepfakes (hypertrucages) en bikini avaient quasiment disparu des messages postés par le compte @Grok jeudi matin, il était toujours possible de « déshabiller » des photos en passant par l’onglet « Grok » accessible depuis X, selon les constats du Monde.
En revanche, le communiqué de X est clair sur un point : seules sont concernées les fonctions de Grok intégrées à X, que ce soit par le compte @Grok ou l’onglet « Grok ». L’outil Grok proprement dit, accessible par exemple sur l’application Grok ou sur le site Grok.com, n’a pas vocation à être bridé à ce stade : tous ses utilisateurs, gratuits comme payants, peuvent continuer d’y éditer des photographies, y compris en déshabillant des hommes et des femmes sans leur consentement. Des possibilités qu’offrent aussi ses concurrents ChatGPT ou Gemini.
Table des matières
Ouverture d’enquêtes judiciaires
La plateforme avait affirmé, début janvier, « prendre des mesures contre les contenus illégaux », notamment pédopornographiques, « en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales ».
Mais elle était ensuite restée silencieuse malgré la multiplication des protestations officielles et l’ouverture d’enquêtes judiciaires ou administratives.
Newsletter
« Pixels »
Votre vigie du numérique : communautés en ligne, cybersécurité, jeux vidéo, intelligence artificielle…
S’inscrire
Le Monde Jeux
Chaque jour de nouvelles grilles de mots croisés, Sudoku et mots trouvés.
Jouer
Newsletter
« Pixels »
Votre vigie du numérique : communautés en ligne, cybersécurité, jeux vidéo, intelligence artificielle…
S’inscrire
Le Monde
« La Météo du Climat »
Explorez notre portail météo et plongez dans nos analyses pour mieux décrypter le climat d’aujourd’hui et de demain.
Découvrir
Le Monde
Offre spéciale étudiants et enseignants
Accédez à tous nos contenus en illimité à partir de 6,99 €/mois au lieu de 12,99€.
S’abonner
Newsletter
« Pixels »
Votre vigie du numérique : communautés en ligne, cybersécurité, jeux vidéo, intelligence artificielle…
S’inscrire
Le Monde
« La Météo du Climat »
Explorez notre portail météo et plongez dans nos analyses pour mieux décrypter le climat d’aujourd’hui et de demain.
Découvrir
La Commission européenne avait, en effet, déclaré, jeudi 8 janvier, avoir imposé à X une mesure conservatoire, suivie par l’Ofcom, l’autorité régulatrice des télécommunications au Royaume-Uni, qui avait annoncé, lundi 12 janvier, l’ouverture d’une « enquête formelle » visant le réseau social X « concernant des images à caractère sexuel diffusées » par son assistant d’intelligence artificielle.
« Nous ne reculerons pas »
L’Union européenne (UE) et le Royaume-Uni ont salué, mercredi, mais avec prudence, ces mesures supplémentaires annoncées par X, peu de temps avant qu’elles soient rendues publiques et détaillées.
« Nous prenons acte des mesures supplémentaires adoptées par X » et « nous évaluerons attentivement ces changements afin de nous assurer qu’ils protègent efficacement les citoyens de l’UE », avait déclaré Thomas Regnier, un porte-parole de la Commission européenne. « Si ces changements n’étaient pas effectifs, la Commission n’hésiterait pas à utiliser tout » son arsenal législatif, qui lui permet d’infliger des astreintes financières, voire de suspendre le réseau social sur le sol européen, a ajouté le porte-parole.
« J’ai été informé ce matin que X agit pour assurer une totale conformité avec la législation britannique », avait déclaré, avant lui, le premier ministre britannique, Keir Starmer, devant son Parlement. « Si c’est le cas, c’est une bonne chose, mais nous ne reculerons pas et ils doivent agir », avait mis en garde le travailliste, rappelant que l’enquête indépendante ouverte lundi se poursuivait. Selon les constats du Monde, le compte @Grok continuait, à la demande des utilisateurs, de générer des photos de Keir Starmer en bikini jeudi matin.
Lire aussi | Grok : l’UE accélère son enquête sur l’IA du réseau social X, détournée pour dénuder des femmes et des mineurs
« Tolérance zéro »
Selon une analyse de l’ONG AI Forensics, réalisée sur plus de 20 000 images générées par Grok et publiée la semaine dernière, plus de la moitié d’entre elles représentaient des personnes légèrement vêtues, dont 81 % étaient des femmes et 2 % paraissaient mineures. Vingt-huit ONG ont signé mercredi l’appel de l’association féministe Ultraviolet à ce que Google et Apple retirent Grok et X de leurs boutiques d’applications.
Le procureur général de Californie, Rob Bonta, un élu démocrate hostile aux velléités de l’administration Trump d’empêcher la régulation de l’IA, a déclaré, mercredi, exhorter « xAI à prendre des mesures immédiates pour que cela ne se reproduise plus », annonçant lancer sa propre enquête « afin de déterminer si, et comment, xAI a violé la loi ».
Le procureur, qui brigue sa réélection en novembre pour un second mandat, défend « une tolérance zéro pour la création et la diffusion par l’IA d’images intimes non consenties ou de matériel pédopornographique ».
« Le principe de fonctionnement de Grok est de respecter les lois de chaque pays et de chaque Etat », a écrit, mercredi, Elon Musk, sur X, le multimilliardaire assurant qu’il « peut arriver que des tentatives de piratage malveillantes entraînent un comportement inattendu. Le cas échéant, nous corrigeons le bug immédiatement ».
M. Musk, qui s’exprime publiquement tous les jours sur X, dénonce régulièrement les mesures de régulation prises par les gouvernements, les accusant de vouloir « supprimer la liberté d’expression ». Il s’était déjà défendu la semaine dernière dans un message posté sur sa plateforme, déclarant que toute personne utilisant Grok pour « créer du contenu illégal subira les mêmes conséquences que si elle mettait en ligne du contenu illégal ».
Le Monde avec AFP
No comment yet, add your voice below!