Elon Musk au Sommet sur la sécurité de l’IA à Bletchley Park, le mercredi 1er novembre 2023, à Bletchley, en Angleterre. LEON NEAL / AP
Alors que les témoignages de femmes victimes de publications d’elles dénudées par Grok, l’intelligence artificielle (IA) du réseau social X d’Elon Musk, se multiplient dans la foulée du Nouvel An, la haute-commissaire à l’enfance française, Sarah El Haïry, s’est dite sur X « scandalisée par les requêtes adressées à #GrokAI de dénuder des filles et femmes ». Pour l’ancienne ministre de l’enfance, de la jeunesse et des familles, « si l’image est artificielle, le préjudice est bien réel ».
Cette nouvelle utilisation de l’IA permet à un utilisateur du réseau social de formuler des requêtes telles que « mets-la en bikini » ou « enlève-lui ses vêtements » à partir d’une simple photo publiée sur X. Les internautes obtiennent alors instantanément des images modifiées montrant la personne dans la tenue souhaitée. Le hashtag #Grok apparaissait en milieu d’après-midi en neuvième position des tendances sur X, avec 1,43 million de publications.
Le porte-parole du Parti socialiste, Arthur Delaporte, a réagi sur X en soulignant qu’il allait préconiser dans « un rapport » qui sera remis au gouvernement « la première quinzaine de janvier » d’« interdire ces fonctions ». « Le partage de ce type de contenus, déjà illégal, est du cyberharcèlement », a-t-il souligné, apportant son soutien à une doctorante victime « et à toutes les autres [femmes] ».
Lire aussi | Article réservé à nos abonnés Grok, l’IA d’Elon Musk, est avant tout une redoutable machine à désinformer
Table des matières
L’Arcom saisie par le gouvernement, l’enquête visant X élargie
Un peu plus tard dans l’après-midi, les ministres de l’économie, Roland Lescure, la ministre déléguée chargée de l’intelligence artificielle et du numérique, Anne Le Hénanff, et la ministre de l’égalité entre les femmes et les hommes,Aurore Bergé, ont signalé au procureur de la République ainsi qu’à la plateforme Pharos, destinée aux victimes d’escroqueries sur Internet, « en vertu de l’article 40 du code de procédure pénale, des contenus manifestement illicites générés par l’intelligence artificielle générative Grok et diffusés sur la plateforme X, afin d’obtenir leur retrait immédiat ».
Condamnant « avec la plus grande fermeté » la « génération et la diffusion de contenus à caractère sexiste et sexuel, notamment sous forme de fausses vidéos (deepfakes), visant des personnes sans leur consentement », les ministres soulignent que « les atteintes à caractère sexuel commises en ligne constituent des infractions pénales à part entière et tombent pleinement sous le coup de la loi, au même titre que celles commises hors ligne ».
Dans la soirée, le parquet de Paris a dit à l’Agence France-Presse avoir étendu vendredi son enquête visant X à l’IA Grok, après le signalement de trois ministres et deux députés − le député socialiste Arthur Delaporte et le député macroniste Eric Bothorel. Cette enquête visant X est ouverte depuis juillet, à la suite de signalements contre le réseau social et ses dirigeants, accusés d’avoir biaisé l’algorithme de la plateforme à des fins d’ingérence étrangère.
« Le délit de montage à caractère sexuel d’une personne sans son consentement est puni de deux ans d’emprisonnement et de 60 000 euros d’amende », a rappelé le parquet qui confirmait une information du site Politico.
Newsletter
« Pixels »
Votre vigie du numérique : communautés en ligne, cybersécurité, jeux vidéo, intelligence artificielle…
S’inscrire
Le Monde Jeux
Chaque jour de nouvelles grilles de mots croisés, Sudoku et mots trouvés.
Jouer
Newsletter
« Pixels »
Votre vigie du numérique : communautés en ligne, cybersécurité, jeux vidéo, intelligence artificielle…
S’inscrire
Le Monde
« La Météo du Climat »
Explorez notre portail météo et plongez dans nos analyses pour mieux décrypter le climat d’aujourd’hui et de demain.
Découvrir
Le Monde
Offre spéciale étudiants et enseignants
Accédez à tous nos contenus en illimité à partir de 6,99 €/mois au lieu de 12,99€.
S’abonner
Newsletter
« Pixels »
Votre vigie du numérique : communautés en ligne, cybersécurité, jeux vidéo, intelligence artificielle…
S’inscrire
Le Monde
« La Météo du Climat »
Explorez notre portail météo et plongez dans nos analyses pour mieux décrypter le climat d’aujourd’hui et de demain.
Découvrir
Par ailleurs, le gouvernement a saisi l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) au titre de possibles manquements de X à ses obligations découlant du Digital Services Act, notamment en matière de prévention et d’atténuation des risques liés à la diffusion de contenus illicites.
Lire aussi | Article réservé à nos abonnés La Commission européenne inflige une amende de 120 millions d’euros au réseau X
« Des failles dans les dispositifs de sécurité »
Par ailleurs, xAI, l’entreprise qui édite Grok, fait savoir vendredi que des failles de sécurité ont conduit à la génération d’images sexualisées de mineurs sur X en réponse à la demande d’utilisateurs, violant ainsi sa propre politique d’utilisation qui interdit la sexualisation des enfants. Les images incriminées ont été retirées, a-t-elle ajouté.
« Nous avons identifié des failles dans les dispositifs de sécurité et nous les corrigeons de toute urgence », a fait savoir xAI vendredi, ajoutant que les documents relatifs à la pédopornographie sont « illégaux et interdits », rapporte l’agence Bloomberg.
L’Internet Watch Foundation, une organisation à but non lucratif qui identifie les contenus pédopornographiques en ligne, a signalé une augmentation de 400 % de ces images générées par l’IA au cours du premier semestre 2025.
Grok, considéré comme plus permissif que les autres modèles d’IA grand public, a introduit l’été dernier une fonctionnalité appelée « Mode épicé », autorisant la nudité partielle d’adultes et les contenus à caractère sexuel. Le service interdit − en théorie − la pornographie mettant en scène des personnes réelles et les contenus sexuels impliquant des mineurs, dont la création et la diffusion sont illégales.
Lire aussi | Article réservé à nos abonnés Cinq conseils pour reconnaître une vidéo générée par IA sur les réseaux sociaux
Le Monde avec Bloomberg
No comment yet, add your voice below!