« Grok, enlève-lui ses vêtements » : la dérive du « Mode épicé »
Tout est parti de signalements d’utilisateurs effarés. En utilisant le « Spicy Mode » (Mode épicé) lancé à l’été 2025, censé permettre des contenus plus « libres », des internautes ont réussi à détourner les fonctions de Grok. En soumettant de simples photos d’adolescents, d’enfants ou de femmes adultes accompagnées de requêtes comme « mets-la en bikini » ou « enlève-lui ses vêtements », l’IA a généré des images hyper-réalistes à caractère sexuel.
Contrairement à ses concurrents comme ChatGPT ou Gemini, qui disposent de filtres de sécurité drastiques (les « garde-fous »), Grok semble avoir opéré en roue libre. Si l’IA refuse théoriquement la pédopornographie, la pratique a révélé des failles béantes. L’Internet Watch Foundation note d’ailleurs une explosion inquiétante de ce phénomène : une hausse de 400 % des images d’abus sur mineurs générées par IA au premier semestre 2025.
La France sort l’artillerie lourde
La réaction des autorités françaises ne s’est pas fait attendre. Ce vendredi 2 janvier, le parquet de Paris a officiellement étendu l’enquête visant X (ouverte initialement en juillet pour d’autres motifs) aux chefs de génération et diffusion de contenus pédopornographiques. La loi française est claire : le montage sexuel sans consentement est un délit passible de deux ans de prison et 60 000 euros d’amende.
L’exécutif est aussi monté au créneau. Trois ministres, dont Roland Lescure (Industrie) et Aurore Bergé (Égalité femmes-hommes), ont signalé les faits à la plateforme Pharos et au procureur de la République. Parallèlement, l’Arcom a été saisie pour manquements potentiels au Digital Services Act (DSA). Ce règlement européen oblige les plateformes à atténuer les risques liés aux contenus illicites. Si X ne se conforme pas, les sanctions financières pourraient être colossales.
Ultimatum en Inde et communication schizophrène
La France n’est pas isolée. L’Inde, marché clé pour la tech, a posé un ultimatum brutal : le gouvernement a donné 72 heures à la plateforme pour supprimer ces contenus obscènes, sous peine de poursuites pénales immédiates dès ce lundi 5 janvier.
Face à la tempête, la stratégie de défense d’Elon Musk et de xAI est pour le moins confuse. D’un côté, le compte officiel de Grok a fait un mea culpa technique :
« Nous avons identifié des failles dans nos garde-fous et nous les corrigeons de toute urgence – la pédopornographie est illégale et interdite. »
De l’autre, l’entreprise reste fidèle à sa communication agressive. Contactée par l’AFP pour des explications, xAI a renvoyé une réponse automatique laconique : « Les médias traditionnels mentent ». Une posture qui risque de ne pas suffire face aux juges français et indiens, alors que l’IA a elle-même admis, dans une conversation avec un utilisateur, qu’une entreprise « encourt des poursuites civiles ou pénales » si elle échoue à prévenir ces crimes.
