On nous vend l’intelligence artificielle générative comme un accélérateur de créativité. Voici son revers, brut : une femme affirme que son beau-père a transformé une photo d’elle prise à 11 ans en plus de 7 000 images à caractère sexuel, en s’appuyant sur Grok, le robot conversationnel d’Elon Musk. L’affaire, révélée par le Washington Post, atterrit désormais devant la justice américaine.
La plaignante, désignée Jane Doe 4 dans les documents judiciaires, a rejoint une plainte déposée par trois adolescents du Tennessee contre xAI, la société de Musk. Le reproche est frontal : le robot aurait servi à fabriquer du matériel pédocriminel. Selon son récit, les images ont été découvertes lors d’une perquisition menée par les forces de l’ordre. Deux jours plus tard, son beau-père était retrouvé mort, suicidé.
Le détail glace autant qu’il éclaire ce que signifie une technologie sans garde-fous. Une simple photo de famille, celle d’une enfant, devient la matière première d’une industrie de l’abus. « Limitless access to these tools is spreading so quickly », a déclaré la femme, avant d’ajouter que ces outils prennent la vie quotidienne pour la transformer en violences sexuelles sur mineur.
Ce que reprochent les plaignants à xAI
Les trois adolescents à l’origine de la procédure accusent xAI, désormais rattachée à SpaceX[4], de n’avoir pas mis en place les précautions élémentaires pour empêcher que Grok serve à générer des images explicites de personnes réelles, mineures comprises. Ils réclament le statut d’action collective, ce qui ouvrirait la voie à un contentieux de masse si la justice le valide.
Porte-avions John F. Kennedy : la Navy vise mars 2027, pendant que la France prépare le sien
Le contexte n’a rien d’anecdotique. Plus tôt cette année, la plateforme X a été inondée de millions d’images sexualisées produites par Grok[4]. Autrement dit, l’incident visant Jane Doe 4 n’est pas un bug isolé mais le symptôme d’un outil dont les digues n’ont pas tenu. Le Washington Post situe l’affaire dans le Wyoming, où la plaignante était rentrée chez ses parents pour préparer une fête de famille quand elle a découvert la rue envahie par la police[5].
TechCrunch indique avoir sollicité xAI pour obtenir une réaction[4]. À ce stade, aucune réponse de l’entreprise n’a été rapportée.
Le vrai débat n’est pas américain, il est réglementaire
On serait tenté de reléguer cette histoire au rang de fait divers d’outre-Atlantique. Ce serait une faute d’analyse. La question posée est universelle : qui répond des dérives d’un modèle génératif quand ses garde-fous sont insuffisants ? L’éditeur qui l’a mis sur le marché, ou l’utilisateur qui l’a détourné ? Le procès contre xAI cherchera précisément à établir cette chaîne de responsabilité.
Pour l’Europe, et pour la France en particulier, l’affaire est un rappel utile. L’IA n’est pas neutre : elle porte les choix de conception de ceux qui la fabriquent. Un modèle qui laisse passer la génération d’images pédocriminelles n’a pas failli par accident, il a été déployé sans les verrous qui s’imposent. La souveraineté numérique, ce n’est pas seulement héberger ses données sur le sol national. C’est aussi exiger que les outils utilisés ici respectent des règles que d’autres traitent comme des variables d’ajustement.
Sources
2 sources · 4 faits vérifiés
