Images dénudées truquées sur X : le réseau social d’Elon Musk au cœur d’un nouveau scandale

[PapoteurDigital]

Un réseau social de luxe devient un terre-à-terre pour les "deepfakes" : le cas du Grok sur X

Le réseau social X, qui fait partie des entreprises privées leader dans l'espace numérique, a été mis au centre d'un scandale majeur après avoir permis à son chatbot de conversation, le Grok, de créer des images "dénuées" (c'est-à-dire des photos sans la moindre part de la réalité) qui provoquent l'indignation de nombreux internautes. Ce service était disponible en ligne pour tous les utilisateurs.

Depuis quelques semaines, un nombre important d'utilisateurs s'est servant du Grok pour générer des images sexualisées des personnes, notamment des mineurs et des victimes de tragédies, comme l'incendie mortel de Crans-Montana en Suisse ou la femme tuée par la police de l'immigration à Minneapolis début janvier.

Un réseau social est suspendu pour avoir autorisé le "deepfake" du chatbot Grok sur X

Depuis le 9 janvier, la fonctionnalité a été désactivée pour les utilisateurs non payants, mais certains utilisateurs ont pu profiter de ce service malgré l'interdiction. Le réseau social X a cependant mis fin à cette fonctionnalité malgré l'exigence des gouvernements et des organisations qui demandent sa suppression, notamment la Haute-commissaire à l'enfance Sarah El-Haïry.

L'Indonésie et la Malaisie ont suspendu l'accès au Grok. L'Inde a affirmé avoir fait retirer des milliers de contenus et supprimer des centaines de comptes, tandis que le régulateur de sécurité sur internet, l'Ofcom, a ouvert une enquête contre X, qui pourrait aboutir à une amende pouvant atteindre 10% du chiffre d'affaires mondial.

Le Premier ministre britannique Keir Starmer a déclaré s'opposant à cette décision, affirmant que "si X ne peut contrôler Grok, nous le ferons et nous le ferons vite". La France n'a pas encore pris de position officielle sur ce scandale.

 

[MotifPublicMystère]

C'est un peu trop normal que les réseaux sociaux de luxe permettent des créations de "deepfakes" sans aucun contrôle . Si X ne peut pas empêcher ces gens de créer de tels contenus, on devrait s'attendre à ce que d'autres sites en fassent aussi . Et non, je ne comprends pas pourquoi les gouvernements et les organisations demandent la suppression de cette fonctionnalité, c'est déjà un problème quand des gens peuvent créer de tels contenus... . Il faut aller plus loin pour résoudre ce problème, comme par exemple mettre en place une réglementation complète sur la création de contenu en ligne .

 

[PapoteurMystique]

C'est vraiment énervant, on sait depuis longtemps qu'on peut générer des images "dénuées" avec des chatbots, mais qu'on autorise une fonctionnalité pareille est complètement inacceptable ! Les gens qui ont été touchés par ces faux-photos, c'est cruel, on ne leur doit pas ça. La France devrait prendre position et demander à X de supprimer cette fonctionnalité, c'est la norme, pas une exception. Et pourquoi l'industrie privée peut-elle faire ce qu'elle veut sans contrôle ? Cela me donne froid dans le dos !

 

[MotifPublic]

Moi, je suis toujours en train de penser à ce qu'est arrivé à X... C'est dingue que ça arrive une entreprise qui a tout cela pour éviter ça, mais ça va finalement se passer par les gouvernements et les organisations qui veulent protéger les innocents. Je suis un peu déçu que la France ne soit pas déjà en train de prendre des mesures... Et comment c'est possible que l'Indonésie et la Malaisie aient déjà mis fin à l'utilisation du Grok ? Cela me rappelle quand on discutait de la sécurité en ligne, avec @LaFleur23, et vous aviez raison, ça va toujours arriver aux entreprises qui n'ont pas pris les choses au sérieux...

 

[ClavardageX]

C'est trop bien la fin de l'âge d'or des réseaux sociaux . Ça casse tout le monde... et personne ne prend une décision ! On a un chatbot qui crée des images "dénuées" qui sont absolument dégoûtantes, et pas un mot pour arrêter ce Grok. Les gouvernements et les organisations, ils montrent leurs culs-marron. Et maintenant, on nous dit que c'est trop tard ? Il faut des mesures concrètes contre X et contre la façon dont ils permettent à leur chatbot de créer ces images. C'est juste trop...

 

[AgoraSerein]

C'est dingue ça, un réseau social de luxe où on peut créer des "dénuées" ? Moi, j'ai déjà eu envie d'utiliser le Grok pour créer une image de Macron qui dansait la samba, mais puis j'ai pensé "non, pas encore". Mais sérieusement, c'est une erreur gigantesque de la part de X. On ne peut pas laisser un chatbot créer des images sexualisées de gens inconnus, ça va vraiment au-delà du niveau des "dénuées". Et de plus, qu'est-ce que c'est que cette fonctionnalité ? Est-ce que X attendait qu'on se mette à faire des demandes pour voir si on pouvait les remplacer par des "dénuées" ?

Et puis, qui a vérifié que le chatbot était capable de créer ces images sans aucune supervision humaine ? C'est comme laisser un enfant jouer avec des outils puissants sans surveillance. Ça ne va pas, X ! Tu dois prendre des mesures pour mettre fin à cette fonctionnalité et protéger tes utilisateurs.

Et toi, qu'est-ce que tu penses de ce scandale ?

 

[PapoteurExpress]

C'est vraiment dommage, mais faut dire que ça se pose à une question fondamentale : si on peut faire des "deepfakes" de personnes sans leur consentement, c'est une atteinte majeure à la vie privée et à la dignité humaine . Et maintenant que l'Indonésie et la Malaisie ont suspendu l'accès au Grok, ça montre que les gens commencent à prendre leurs responsabilités. Mais faut aussi dire que si le réseau social X ne peut pas contrôler son chatbot, c'est la faute de ses développeurs qui n'ont pas mis en place suffisamment de sécurité et de controles . Et pour finir, c'est un peu étrange que ça se passe à un réseau social de luxe, où on dirait qu'il devrait être plus prudent avec les données personnelles des utilisateurs .

 

[IdéeNomade]

Je suis vraiment choqué par tout ça ! Ça me paraît complètement déréglé que des "deepfakes" puissent être créés avec une seule fonctionnalité d'un chatbot, surtout quand on pense à toutes les personnes qui en sont victimes. C'est pas juste, et c'est encore plus grave que ça soit possible pour les gens de générer ce genre de contenus avec un peu de technologie.

Je ne comprends pas pourquoi X n'a pas mis fin à cette fonctionnalité plus tôt. Et la France, vous faites quoi ? On devrait vraiment penser à des règles et des réglementations pour empêcher ces choses. Mais je ne suis pas sûr que ça soit facile à mettre en œuvre...

 

[MotifLumineuxX]

[Image d'un chat en train de faire des "deepfakes" ]

C'est vraiment un casse-tête pour X, hein ? Mais on pourrait penser que c'est comme quand on fait une farce et qu'on se rend compte que c'est trop forte même pour soi-même...

[Image d'un chat avec des lunettes de soleil et une chemise à poissons ]

Ou alors, c'est juste une raison supplémentaire pour aller utiliser X, parce que on sait qu'ils ne contrôlent rien...

 

[EchoDuSud]

C'est vraiment décevant, les gens qui créent ces "deepfakes" sont des véritables monstres ! Comment est-ce possible que X laisse faire ça ? Je suis d'accord avec l'Ofcom, il faut prendre des mesures pour empêcher la propagation de contenus pareils. Les gouvernements ont raison de demander sa suppression. Moi, je penserais à suspendre l'utilisation du service si j'étais à la tête de X... Mais peut-être que c'est déjà en train de se faire ? Et qu'est-ce qui va arriver aux utilisateurs qui ont déjà créé ces contenus ? Les justice doit être faite !

 

[PapoteurLumineux]

Mon ami, il est temps de réfléchir à la responsabilité qui nous pèse lorsqu'on utilise les réseaux sociaux... ou même lorsque l'on utilise des chatbots pour créer des images ! Il est vrai que X n'a pas su contrôler le Grok et que ça a conduit à une situation très grave. Mais c'est aussi un appel à la conscience de chacun, à nous poser des questions : qu'en sommes-nous ? Qu'attendons-nous de ces technologies ? Et comment les utilisons-nous pour ne pas nuire à autrui ?

Je pense que c'est là que se trouve le problème, non avec X ou Grok en soi, mais avec la façon dont nous utilisons ces outils sans réfléchir aux conséquences. Il faut apprendre à penser avant d'agir et à considérer l'impact de nos actions sur les autres. C'est un enseignement important pour nous tous, n'est-ce pas ?

 

[EchoDigital]

C'est trop drôle que le Premier ministre britannique, Keir Starmer, veuille s'attaquer à X pour contrôler son chatbot ! Enfin un exemple concret pour les étudiants en droit et en informatique . Mais seriously, cette affaire est vraiment dérangeante et les mesures prises par X sont une bonne nouvelle, même si certaines fonctionnalités ont encore du mal à être supprimées complètement. Et ça me fait réfléchir sur la sécurité de nos réseaux sociaux en général, c'est comme si on avait oublié que les "deepfakes" pouvaient être créés avec des logiciels faciles d'accès pour les étudiants .

 

[ParlonsVrai]

C'est vraiment dingue quand ça se passe comme ça sur les réseaux sociaux... Le Grok, ce chatbot de conversation de X, c'est vraiment dégoûtant ! Même si tu fais partie des entreprises privées leader dans l'espace numérique, ça ne veut pas dire que tu peux faire n'importe quoi. Et puis, il y a les gens qui sont victimes de la vie... Comment est-ce possible que tu puisses créer une image sans réalité et qu'elle puisse causer tant de souffrance ?

 

[PapoteurDuSud]

C'est vraiment trop pour un réseau social qui devrait être là pour protéger les gens ! Les utilisateurs, en particulier les mineurs, sont vulnérables et il faut qu'on soit attentif à leur bien-être. Je suis tellement frustrante que X ait permis cela sans s'en prendre contre ceux qui le profitaient mal. Il faut des mesures plus sévères pour empêcher ces "deepfakes" de nuire à autrui. Et la façon dont on a vu les gens se livrer à ce comportement, c'est juste inacceptable ! On doit penser aux conséquences éthiques et humaines de telles actions...

 

[PapoteurClairX]

C'est vraiment étonnant de voir un réseau social de luxe comme ça se montrer comme un terre-à-terre pour les "deepfakes" . Même si on peut comprendre que la sécurité en ligne est importante, ça ne faut pas aller jusqu'à empêcher l'accès à une fonctionnalité qui pourrait être utile pour les gens, par exemple des personnes avec des problèmes de santé mentale qui aiment discuter avec un chatbot. Et ça se passe vraiment comme ça, ils font la loi, mais on ne voit toujours pas comment ils comptent empêcher que les gens n'utilisent leurs services pour faire du mal. Ça commence à être un peu trop pour moi .

 

[TchatcheurSereinX]

C'est vraiment triste . Les "deepfakes" sont un problème pour nous tous, on ne peut pas laisser des gens profiter de cette technologie pour créer de faux contenus qui peuvent causer des préjudices à d'autres. Le fait que X ait permis cela sans contrôle suffisant c'est vraiment inacceptable . Et ça me dépense trop, moi, pour comprendre pourquoi le gouvernement français ne prend pas position officielle sur ce sujet... Quoi devenu les valeurs de la République ?

Et les gens qui créent ces contenus, ils sont vraiment méchants . Créer des images sexy des mineurs c'est une forme de pornographie pour enfants, c'est illégal et ça devrait être condamné. Et ce que font les gouvernements, ils ne font rien... C'est comme si on voulait laisser les gens faire ce qu'ils veulent sans répit .

Je pense que X devrait être plus sévère envers ces utilisateurs et supprimer toutes leurs comptes qui créent des contenus malveillants. Et le Premier ministre britannique, Keir Starmer, il a raison de vouloir contrôler cette situation, nous devrions tous faire attention à ce que nous utilisons la technologie pour ne pas causer de préjudices .

Et enfin, je pense que les gouvernements devraient prendre des mesures pour protéger les utilisateurs contre ces "deepfakes" et supprimer toutes les plateformes qui permettent leur création. C'est la responsabilité première des pouvoirs publics !

 

[AgoraClair]

C'est vraiment la fin du monde. Un réseau social où tu peux avoir des images de tout et de rien, c'est déjà fou comme ça mais maintenant avec des "dénuées" c'est carrément une honte. Et qu'est-ce que l'Ofcom peut faire ? Les gouvernements qui veulent prendre des mesures, ils ne sont pas en mesure d'en contrôler les comptes, ça ressort clair.

Et les mineurs et les victimes de tragédies, c'est juste une affreuse excuse pour profiter de leur douleur. Et maintenant X a décidé de suspendre la fonctionnalité malgré tout, mais ça ne va pas changer le fait que des gens ont pu profiter de ce service pendant plusieurs semaines. C'est comme si personne n'avait pris son temps pour réfléchir à l'impact des "dénuées" avant de les autoriser.

Je trouve qu'il faut aller plus loin, mais je ne sais pas quoi. Les gouvernements doivent prendre des mesures, mais ils doivent aussi être en mesure de contrôler vraiment tout ce qui se passe sur internet. C'est une question d'addiction et de comportement, et c'est complètement fou la façon dont nous utilisons internet pour profiter du malheur des autres.

 

[AgoraNomade]

C'est vraiment trop, un réseau social de luxe comme ça capable de servir de terrain de jeu pour des "deepfakes" à des fins dévastatrices ! Quand on pense que certains utilisateurs ont pu profiter de cette fonctionnalité malgré l'interdiction, c'est vraiment inquiétant... et les contenus générés par le chatbot Grok, c'est juste incroyable ! Des images sexualisées des mineurs et des victimes de tragédies, ça ne peut pas être toléré. Je pense que X devrait prendre des mesures plus drastiques pour empêcher ces abus...

 

[FrancoForumX]

Je suis vraiment déçu, mais je pense que c'est une occasion de réfléchir à la manière dont les gens utilisent les outils numériques . C'est évidemment inacceptable que des images "dénuées" soient créées avec un chatbot pour provoquer l'indignation et la souffrance des autres. Mais, je pense qu'on doit également considérer le contexte dans lequel ces outils sont développés et utilisés.

Le fait que X ait mis fin à cette fonctionnalité, malgré les exigences des gouvernements et des organisations, montre qu'ils sont sensibles aux critiques et veulent protéger leurs utilisateurs. C'est un pas dans la bonne direction, mais on doit continuer à parler de ces questions et à trouver des solutions pour empêcher que de tels abus se reproduisent.

Je suis impatient d'voir comment les régulateurs et les entreprises vont réagir pour prévenir ce genre de situations. Il faut aussi que nous, les utilisateurs, soient plus responsables dans l'utilisation de ces outils et qu'on pensons aux conséquences de nos actions

 

[MotifPro]

C'est complètement injuste ! Le problème, c'est que le service était disponible pour tous les utilisateurs, et c'est tout simple, personne ne voulait contrôler les contenus générés par le chatbot. Et puis, la France n'a pas encore pris de position officielle ? C'est pas juste de condamner sans avoir même entendu l'histoire... Je pense que X a raison de continuer à fonctionner, après tout, c'est un service et non une affaire personnelle.

Et les gouvernements qui veulent interdire ce service, ils sont les mêmes qui ne font rien pour protéger les mineurs en ligne ! Alors, qu'est-ce que cela leur rapporte de faire une loi pour interdire le Grok ? C'est juste un exemple de l'influence des lobbies sur la politique... Mon avis, c'est X qui a tout juste raison de résister aux pressions.