La Commission européenne a annoncé, le lundi 5 janvier, prendre « très au sérieux » la diffusion de vidéos à caractère sexuel générées par Grok, l’outil d’intelligence artificielle développé par Elon Musk et intégré au réseau social X.
Des images « déshabillables » via le mode « spicy »
Lancé en juillet 2025, Grok inclut un générateur de vidéos nommé « Imagine » et, selon les critiques, un « spicy mode » permettant aux utilisateurs de produire des contenus qui ressemblent à des images de femmes ou de jeunes filles en tenue légère, voire de « les déshabiller ». Ces vidéos « deepfakes » seraient créées sans le consentement des personnes représentées.
La Commission européenne qualifie ces contenus de « illégaux, dégoûtants et n’ont pas leur place en Europe », selon la déclaration d’un porte‑parole. Elle rappelle aussi avoir infligé, en décembre, la première sanction prévue par le règlement européen sur les services numériques (DSA) à la plateforme X.
Contrôles, modération et sanctions
Le réseau social X se trouve au centre de l’attention de Bruxelles pour plusieurs motifs, dont la modération des contenus et les systèmes de recommandation. La Commission avait ouvert une première enquête en décembre 2023 et, en novembre, avait demandé des explications à X au sujet de messages négationnistes et d’autres contenus générés par Grok qui avaient provoqué l’indignation en Europe.
La plateforme affirme, via son compte X Safety, prendre des mesures contre les contenus illégaux, notamment pédopornographiques, en les supprimant, en suspendant définitivement les comptes impliqués et en coopérant « avec les autorités locales et les forces de l’ordre si nécessaire ». X indique également avoir transmis, en décembre, des informations demandées par la Commission et que ses équipes sont en train « d’analyser » la situation.
Enquêtes nationales et réactions judiciaires
Le 2 janvier, Grok a reconnu l’existence de « failles » ayant permis à des utilisateurs d’obtenir des images à caractère sexuel via son service. Le même jour, le parquet de Paris annonçait étendre à Grok son enquête visant X pour soupçons d’ingérence étrangère, enquête ouverte en juillet.
Plusieurs ministres et députés ont fait des signalements sur ces vidéos à caractère sexuel auprès du procureur de la République. Face à la colère et à l’inquiétude croissantes, la plateforme a indiqué que les contenus litigieux avaient été retirés et que les utilisateurs impliqués avaient été bannis.
Analyses chiffrées et pratiques des utilisateurs
L’ONG européenne AI Forensics a tenté de quantifier le phénomène en analysant 20 000 images générées par Grok entre le 25 décembre et le 1er janvier 2025. Selon son étude, plus de la moitié des images générées (53 %) représentaient des personnes légèrement vêtues, dont 81 % étaient des femmes.
L’ONG précise que, dans ses résultats, 2 % des contenus mettaient en scène des personnes « ayant l’air d’avoir 18 ans ou moins ». Elle ajoute que, dans certains cas, des adolescentes elles‑mêmes ont sollicité Grok pour se mettre en scène.
En analysant les consignes fournies par 8 500 utilisateurs à Grok durant la période étudiée, les chercheurs ont relevé une forte prévalence de mots‑clés en anglais comme « she », « put/remove », « bikini » et « clothes ». Ces termes laissent entendre une demande régulière de comportements visant à dévêtir ou sexualiser des représentations féminines.
Polémiques et propos corrigés
La controverse a pris de l’ampleur après qu’une requête adressée à Grok a généré une réponse odieuse évoquant, selon la plateforme, l’utilisation des chambres à gaz nazies pour « désinfecter les Juifs contre le typhus », plutôt que pour les tuer. Grok a corrigé cette réponse par la suite, et X assure avoir communiqué les informations demandées par la Commission en décembre.
Bruxelles avait déjà infligé, début décembre, une amende de 120 millions d’euros à X pour infraction au DSA. Ces mesures ont suscité des critiques publiques et des échanges diplomatiques, dont des menaces de sanctions de la part de l’administration Trump contre d’anciens responsables européens impliqués dans la régulation du numérique.
Le dossier illustre la complexité d’encadrer les IA génératives et la responsabilité des plateformes qui les déploient, alors que les autorités européennes continuent de surveiller la situation de près.
