Violence virtuelle, conséquences réelles : le laborieux combat contre les deepfakes

L'actrice et animatrice allemande Collien Fernandes est assise en face d'un producteur lors d'un repas en commun, lorsque celui-ci commence soudainement à s'agiter. Il lui raconte qu'ils ont échangé des messages sur LinkedIn pendant un certain temps, environ six mois, sans aucun engagement. Puis elle aurait commencé à flirter avec lui, à lui envoyer des photos nues, voire des vidéos de sexe. Mme Fernandes ne sait rien de tout cela. Ce n'est pas elle, elle n'a pas enregistré de messages, de photos ou de vidéos, et encore moins envoyé de messages.

Comme on le découvrira plus tard, l'ex-mari de Collien Fernandes, Christian Ulmen, avait écrit au producteur en leur nom et envoyé ce qu'on appelle du porno deepfake – c'est-à-dire des vidéos dans lesquelles le visage d'une personne est placé sur le corps d'une autre grâce à l'intelligence artificielle (IA). "J'ai été involontairement transformée en quelqu'un qui drague les hommes dans cette industrie", a déclaré l'actrice au magazine Weisser Ring dans une interview, parlant d'"abus sexuel numérique".

Le phénomène en soi n'est pas nouveau et n'épargne pas le Luxembourg. Ces dernières années, Bee Secure a dû constater une accumulation de cas autour de deepfakes et d'images manipulées. En 2025, la helpline a enregistré 21 cas de sextorsion, cinq cas de grooming (sollicitation d'enfants à des fins sexuelles) et trois cas de non-consentual sharing of intimate images (NCSII) (lire l'encadré). S'y ajoutent 33 cas de sextorsion par voie écrite. Pour l'année 2026, Bee Secure a déjà recensé 19 cas de sextorsion, un cas de grooming et cinq cas de NCSII (situation en mai 2025). "Tout le monde peut être concerné par ce phénomène", explique Bee Secure. "En effet, pour produire un deepfake sexualisé, il suffit d'une photo disponible en ligne. N'importe quelle image sur internet peut être utilisée par l'auteur à de telles fins."

Ces cas sont extrêmement éprouvants pour les personnes concernées : "La pression psychologique, la peur, le sentiment de perdre le contrôle… La diffusion d'images intimes porte profondément atteinte à la vie privée et au bien-être des personnes concernées", poursuit Bee Secure. Dans le cas de la sextorsion, l'auteur·rice exerce une pression sur la victime en lui demandant de l'argent ou d'autres images et en la menaçant de les publier et de les envoyer à des connaissances de la victime. "Il est typique de telles manipulations de faire croire à la victime qu'il n'y a pas d'autre issue. Ce faisant, l'auteur joue délibérément sur des émotions telles que la honte et la peur, y compris celle des conséquences ou de l'atteinte à la réputation."