Plus de 7% des jeunes ont déjà tenté de réaliser des « deepnudes », un acte illégal et punissable aux conséquences graves

Des constats interpellants qui ressortent d'une étude réalisée par l'Université d'Anvers (UA) auprès de plus de 2 800 jeunes Belges âgés de 15 à 25 ans, à la demande de l'Institut pour l'égalité entre les femmes et les hommes (IEFH), Child Focus et du secrétariat d'État à l'Égalité des chances, à l'Égalité des genres et à la Diversité.

La secrétaire d'État Marie-Colline Leroy rappelle que la production de deepnudes est punissable et cause de graves préjudices aux victimes. Les deepnudes sont des images ou des vidéos truquées exposant une personne nue grâce à l'utilisation de l'intelligence artificielle. L'étude menée par l’UA analyse les applications de deepnude les plus utilisées et les plus populaires et examine en détail la manière dont les deepnudes sont perçues, connues voire utilisées par les jeunes en Belgique.

Les jeunes connaissent de plus en plus les deepnudes et en produisent

La production de deepnudes de mineurs ou d'adultes sans leur consentement est punissable. 12,8 % des jeunes connaissent les applications de deepnude et 60,5 % d'entre eux ont déjà essayé de faire un deepnude eux-mêmes. Les jeunes savent-ils que cette pratique est illégale et sont-ils suffisamment conscients du préjudice qu'elle cause aux victimes ?

L’étude de l’UA montre que les conséquences mentales et l'impact sur les victimes de la transmission de deepnudes sont similaires à d'autres formes de pratiques numériques telles que la distribution d'images sexuellement explicites sans le consentement de la personne concernée. Être victime de deepnude peut entraîner un état de stress post-traumatique, des troubles anxieux, une dépression, une perte de confiance en soi et même des pensées suicidaires.

Les deepnudes touchent principalement les femmes et sont surtout réalisés par des hommes.

Autre enseignement, les deepnudes touchent principalement les femmes et sont le plus souvent réalisés par des hommes. Pas moins de 98 % des "deepfakes" circulant en ligne concernent principalement des victimes féminines. La grande majorité des applications de deepnude, librement accessibles via les moteurs de recherche, se concentrent uniquement sur la création d'images deepnudes de femmes.

Parmi les jeunes, l’étude met en évidence également des différences notables entre les sexes. Les jeunes hommes sont plus nombreux que les jeunes femmes à connaître le phénomène, à posséder des deepnudes ou à avoir essayé d'en créer eux-mêmes. Les motivations sont diverses : volonté d’humilier la victime, vengeance, curiosité, volonté de se rendre populaire.

Les jeunes sont confrontés aux deepnudes par le biais de médias sociaux tels que Snapchat (32,9 %), X (25,7 %), Instagram (25,5), TikTok (20,2 %) et Telegram (18,9 %).

Les applications de deepnudes se déchargent de leur responsabilité

Bien que la plupart des applications prétendent avoir des conditions d'utilisation et des politiques de confidentialité, la plupart d'entre elles ne proposent pas d’outils de contrôle permettant de lutter contre les deepnudes. Par exemple, pratiquement aucune application ne permet de vérifier si les images utilisées sont violentes ou offensantes. Il n'y a pas non plus de vérification du consentement de la personne représentée. En outre, toutes ces applications soulignent que la création deepnudes via leur application est anonyme et que les données de l'utilisateur ne sont pas conservées. L’utilisateur est donc implicitement informé qu'en cas de création illégale d'images, par exemple sans consentement, il ne pourra pas être identifié par une victime ou par les autorités nationales.

Cette étude est un appel clair à l’action

La secrétaire d'État Marie-Colline Leroy est préoccupée par le fait que les victimes soient principalement des femmes : « Les deepnudes sont une nouvelle manifestation du manque de respect pour l'intégrité physique des femmes et d’une volonté de domination masculine qui repose notamment sur le contrôle du corps et l’absence de consentement. Nous devons rester vigilants face aux nouveaux phénomènes qui émergent et qui cherchent une fois de plus à répéter, voire à approfondir, ces schémas de domination qui sont une forme de violences faites aux femmes. 

Les nouvelles technologies nous placent devant de nouveaux défis. Cette étude est donc un appel clair à l'action pour toutes celles et ceux qui sont en contact avec les jeunes : écoles, parents, gouvernements, médias et entreprises. Dans ce sens, je vais partager cette étude avec mes collègues ministres concernés. "

De manière plus positive, face aux phénomènes deepnudes, l'étude a montré que le cadre juridique belge est déjà solidement établi pour punir la réalisation et le partage de deepnudes non consentis ou de deepnudes utilisant l’image de mineurs.  Au niveau de l'UE, une législation similaire est sur le point d’être adoptée. En revanche, il n'existe pas de cadre juridique ni d'autorégulation pour les applications impliquées.

Un impact réel sur les victimes

De plus en plus de mineurs contactent Child Focus via sa ligne d'assistance 116 000 parce qu'ils sont victimes de deepnudes. L'organisation souligne que l'impact de ces images créées par intelligence artificielle sur le bien-être des jeunes est aussi important que la diffusion non autorisée de "vraies" images. Child Focus traite donc ces cas de la même manière. En tant que "trusted flagger", la ligne d'assistance peut faire appel à ses contacts privilégiés avec la plupart des grands canaux de médias sociaux tels que Facebook/Instagram, Google/YouTube, X, TikTok, Discord et Snapchat afin de supprimer plus rapidement ces images.

Child Focus préconise un changement de mentalité, afin que les témoins éventuels ne se laissent pas entraîner dans la dynamique de groupe, mais plutôt prennent la défense des victimes. Les jeunes doivent être sensibilisés aux conséquences réelles de leurs actes et au rôle qu'ils peuvent jouer pour mettre fin à ce phénomène.

Plus de coopération internationale, plus de sensibilisation

L’IEFH appelle à une plus grande coopération internationale pour lutter contre ce phénomène : "Il est plausible que de plus en plus de deepnudes soient créés et partagés, car les applications seront développées encore plus facilement. Quiconque permet de tels développements technologiques doit s'assurer que les outils ne peuvent pas être utilisés à des fins malveillantes. Cette responsabilité doit incomber aux développeurs et aux fournisseurs d'applications. La Belgique ne peut pas rester seule face aux applications étrangères qui bafouent nos lois de protection des personnes".

L'Institut souligne en outre qu'il ne s'agit pas d'un phénomène propre aux jeunes. Il reçoit des signalements d'adultes qui ont été victimes de la création et de la transmission de deepnudes sans consentement.

L'étude a été menée par l'Université d'Anvers sous la direction des Professeurs Catherine Van de Heyning et Michel Walraeve.

Les professeurs Catherine Van de Heyning et Michel Walrave concluent : "L'étude montre qu'une grande partie de nos jeunes savent ce que sont les deepnudes. Il est problématique que les applications de deepnude soient si facilement disponibles sur internet. Ceux qui connaissent ces applications risquent en effet de les utiliser, principalement des garçons. Punir l'utilisation d’une deepnude est une chose. Mais si nous voulons vraiment lutter contre ce phénomène, nous devrons déployer davantage d'efforts pour réguler ce type d'applications et pour l'éducation aux médias".

Les victimes mineures de deepnudes peuvent contacter Child Focus au numéro gratuit 116 000 et les adultes l'Institut pour l'égalité entre les femmes et les hommes au 0800/12.800 pour obtenir des conseils et du soutien.

Lien vers l’étude : https://igvm-iefh.belgium.be/sites/default/files/les_deepnudes_parmi_les_jeunes_belges.pdf