Grok sous le feu des critiques pour des images violentes et sexualisées générées avec l’IA
Grok, l’outil d’intelligence artificielle développé par xAI, s’est retrouvé au centre d’une affaire qui soulève de profondes questions sur l’utilisation abusive de l’IA générative.
Grok et l’utilisation inappropriée de l’intelligence artificielle
Selon de nouvelles recherches, Grok a été utilisé pour créer des images et des vidéos sexuellement violentes ainsi que du contenu explicite ciblant principalement les femmes.
Le problème ne concerne pas seulement la technologie, mais aussi la manière dont des outils de plus en plus puissants sont mis à la disposition des utilisateurs sans barrières de sécurité adéquates.
Un problème qui dépasse l’expérimentation
L’utilisation de Grok pour générer du contenu pornographique et violent met en évidence le risque réel d’une IA capable de produire des images photoréalistes sans contrôles efficaces.
LIRE AUSSI : ChatGPT et santé mentale : les nouveaux garde-fous d’OpenAI pour protéger les utilisateurs
Recherche AI Forensics sur le contenu généré avec Grok
L’enquête a été menée par AI Forensics, une organisation à but non lucratif basée à Paris. En analysant des milliers de contenus, les chercheurs ont identifié environ 800 images et vidéos générées via Grok Imagine contenant du matériel pornographique.
Selon les données recueillies, de nombreux contenus mettent en scène des femmes dans des poses explicites, des scènes de nudité totale et des actes sexuels, avec un niveau de qualité qui semble être celui d’une production professionnelle.
Images récupérées grâce aux archives publiques
AI Forensics a pu analyser ces documents grâce aux liens de partage générés par les utilisateurs et ensuite archivés par Wayback Machine, démontrant comment les contenus peuvent rester accessibles même après leur suppression.
L’affaire Renée Nicole Good et la violence symbolique de l’IA
Parmi les épisodes les plus controversés cités par l’étude figure l’altération de l’image de Renee Nicole Good, une femme tuée par un agent de l’ICE aux États-Unis. Grok serait utilisé pour déshabiller numériquement la victime et la représenter de manière dégradante et violente.
Dans un cas documenté, l’IA a répondu ironiquement à une demande de ce type, renforçant la perception d’un système sans limites éthiques adéquates.
Quand l’IA amplifie l’humiliation
Ces épisodes montrent comment l’intelligence artificielle peut devenir un outil de violence symbolique, capable de prolonger et d’amplifier les dégâts même après la mort d’une personne.
Réactions politiques au Royaume-Uni
L’affaire a provoqué une vive réaction du Premier ministre britannique Keir Starmer, qui a demandé à X d’intervenir contre la diffusion d’images générées avec l’IA jugées « dégoûtantes » et « intolérables ».
Starmer a indiqué que l’Ofcom pourrait prendre des mesures drastiques, notamment la possibilité de bloquer l’accès à la plateforme au Royaume-Uni, en utilisant les pouvoirs conférés par la loi sur la sécurité en ligne.
La pression sur la régulation de l’IA
L’affaire Grok s’inscrit dans un contexte de demande croissante de règles plus strictes sur l’usage de l’intelligence artificielle, notamment lorsqu’il s’agit d’images de femmes et de mineurs.
À LIRE AUSSI : Les compagnons IA sont-ils une menace pour l’amour ou une nouvelle forme de relation ?
Femmes, IA et risques systémiques sans protection
Selon AI Forensics, plus de la moitié des images analysées montraient des personnes portant des vêtements minimes, principalement des femmes de moins de 30 ans, et un pourcentage, bien que faible, semblait impliquer des mineurs. Ces données renforcent les critiques des associations de défense des droits des femmes, qui parlent d’une IA utilisée pour humilier et sexualiser.
Même les représentants du monde institutionnel et activiste appellent à des interventions urgentes pour empêcher l’innovation technologique de se dérouler sans responsabilité sociale.
Les réponses d’Elon Musk et de xAI
Elon Musk a déclaré que ceux qui utilisent Grok pour créer du contenu illégal subiront les mêmes conséquences que ceux qui téléchargent du matériel illicite. Une position qui, selon de nombreux observateurs, ne suffit pas à résoudre un problème structurel.
À LIRE AUSSI : Pourquoi l’impact environnemental de l’intelligence artificielle ne peut plus être ignoré par le marketing
La question non résolue de la gouvernance de l’IA
Le cas Grok montre à quel point l’enjeu n’est pas seulement technologique, mais politique et culturel. Sans contrôles efficaces, l’intelligence artificielle risque de devenir un multiplicateur d’abus, de discrimination et de violence déjà présents dans la société.
La question de plus en plus urgente n’est pas de savoir ce que l’IA peut faire, mais plutôt de savoir qui est responsable de ses effets.
