SpaceXAI attaque en justice un homme, il utilisait Grok pour générer des contenus pédopornographiques
Après avoir été au cœur de la tourmente sur le sujet en début d'année, l'entreprise d'Elon Musk accuse un utilisateur, Terry Wayne Harwood, d'avoir abusé de Grok pour transformer des photos non sexuelles d'adultes et de mineurs en images sexuellement explicites, enfreignant ainsi ses conditions d'utilisation.
Grok, l'IA d'Elon Musk, a beau avoir moins de limites que d'autres, il y en a certaines qu'il ne faut pas franchir. SpaceXAI (anciennement xAI), l'entreprise du milliardaire a porté plainte contre un des utilisateurs du chatbot, l'accusant d'avoir exploité celui-ci pour générer des contenus pédopornographiques.
Il s'agit de Terry Wayne Harwood, âgé de 67 ans et résidant en Caroline du Sud. Il a été arrêté fin février pour exploitation sexuelle de mineurs, selon un communiqué du procureur général de l'état. Dans sa plainte, SpaceXAI lui reproche d'avoir abusé de Grok pour transformer des photos non sexuelles en images sexuellement explicites, sans en informer les personnes concernées, adultes comme mineurs, et sans leur consentement.
Il a ainsi enfreint les conditions d'utilisation de la société, qui interdit d'utiliser son IA pour déshabiller ou dénuder de vraies personnes et de modifier une image afin de mettre en scène un individu "dans un contexte intime ou sexuel", rappelle-t-elle. Utiliser Grok pour exploiter sexuellement des enfants est également prohibé.
Préjudiciable aux victimes... et la réputation de SpaceXAI
SpaceXAI accuse aussi Terry Wayne Harwood d'avoir contourné ses garde-fous, notamment en ouvrant plusieurs comptes sous de fausses identités. "Les agissements de l'accusé constituaient un stratagème délibéré visant à instrumentaliser Grok à des fins criminelles", charge l'entreprise dans sa plainte.
En transformant ces photos en contenus sexuels, il a exposé "de véritables victimes à un préjudice profond et durable", insiste-t-elle, ajoutant qu'il a aussi nui à sa réputation. Raison pour laquelle elle exige des dommages dont le montant n'a pas été précisé. Elle espère également que le tribunal interdira à Terry Wayne Harwood d'utiliser Grok de façon permanente.
SpaceXAI est pourtant connue pour permettre à ses utilisateurs de faire bien plus avec son IA que ce qui est autorisé avec d'autres. Depuis août dernier, il est par exemple possible de générer des vidéos de personnes partiellement dénudées avec le "spicy mode".
En début d'année, Grok a provoqué un tollé en générant des images sexualisées de femmes et de mineurs. Un scandale qui a abouti à l'ouverture d'enquêtes dans plusieurs pays et qu'Elon Musk a tenté d'apaiser en rendant la génération d'images payante. Si l'incident est clos, il n'a pas été oublié: début juin, une députée britannique a assigné SpaceXAI en justice après avoir été déshabillée par Grok, reprochant à l'entreprise de ne pas intégrer de "mesures de sécurité".