« Une fois que vous envoyez cette photo, vous ne pouvez pas la reprendre », dit l’avertissement aux adolescents, ignorant souvent la réalité que de nombreux adolescents envoient des images explicites d’eux-mêmes sous la contrainte, ou sans comprendre les conséquences.

Lire la suite :

« C’est une épidémie » : la sextorsion et les crimes en ligne contre les jeunes augmentent considérablement

Un nouvel outil en ligne vise à redonner un certain contrôle aux adolescents, ou aux personnes qui étaient autrefois adolescentes, et à retirer des images et des vidéos explicites d’eux-mêmes sur Internet.

Appelé Take It Down, l’outil est exploité par le National Center for Missing and Exploited Children, et financé en partie par Meta Platforms, le propriétaire de Facebook et Instagram.

Le site permet à quiconque anonymement – et sans télécharger d’images réelles – de créer ce qui est essentiellement une empreinte numérique de l’image. Cette empreinte digitale (un ensemble unique de chiffres appelé « hachage ») va ensuite dans une base de données et les entreprises de technologie qui ont accepté de participer au projet suppriment les images de leurs services. Toute personne de moins de 18 ans, partout dans le monde, peut utiliser le service.

L’histoire continue sous la publicité

Maintenant, les mises en garde. Les plateformes participantes sont, à partir de lundi, Facebook et Instagram de Meta, Yubo, OnlyFans et Pornhub, appartenant à Mindgeek. Si l’image se trouve sur un autre site, ou si elle est envoyée sur une plateforme cryptée telle que WhatsApp, elle ne sera pas supprimée.

De plus, si quelqu’un modifie l’image originale – par exemple, la recadrer, ajouter un emoji ou la transformer en mème – elle devient une nouvelle image et a donc besoin d’un nouveau hachage. Les images visuellement similaires, telles que la même photo avec et sans filtre Instagram, auront des hachages similaires, différant par un seul caractère.

« Take It Down est fait spécifiquement pour les personnes qui ont une image dont ils ont des raisons de croire qu’elle est déjà sur le Web quelque part, ou qu’elle pourrait l’être », a déclaré Gavin Portnoy, porte-parole du NCMEC. « Vous êtes un adolescent et vous sortez avec quelqu’un et vous partagez l’image. Ou quelqu’un vous a extorqué et ils ont dit: « Si vous ne me donnez pas une image, ou une autre image de vous, je vais faire X, Y, Z. »


Cliquez pour lire la vidéo : « Conseils d’experts pour lutter contre la sextorsion chez les adolescents »


Conseils d’experts pour lutter contre la sextorsion chez les adolescentes


Portnoy a déclaré que les adolescents peuvent se sentir plus à l’aise d’aller sur un site que d’impliquer les forces de l’ordre, qui ne seraient pas anonymes, par exemple.

L’histoire continue sous la publicité

« Pour un adolescent qui ne veut pas ce niveau d’implication, ils veulent juste savoir que c’est retiré, c’est un gros problème pour eux », a-t-il déclaré. Le NCMEC constate une augmentation des signalements d’exploitation en ligne des enfants. La CyberTipline de l’organisme à but non lucratif a reçu 29,3 millions de signalements en 2021, en hausse de 35% par rapport à 2020.

Meta, à l’époque où c’était encore Facebook, a tenté de créer un outil similaire, bien que pour les adultes, en 2017. Cela ne s’est pas bien passé parce que le site a demandé aux gens d’envoyer leurs nus (cryptés) à Facebook – pas l’entreprise la plus fiable, même en 2017. La société a testé le service en Australie pendant une brève période, mais ne l’a pas étendu à d’autres pays.

Mais pendant ce temps, l’extorsion et l’exploitation sexuelles en ligne n’ont fait qu’empirer, tant pour les enfants et les adolescents que pour les adultes. De nombreuses entreprises de technologie utilisent déjà ce système de hachage pour partager, retirer et signaler aux forces de l’ordre des images d’abus sexuels sur des enfants. Portnoy a déclaré que l’objectif est d’avoir plus d’entreprises inscrites.

« Personne n’a jamais dit non », a-t-il dit.

Lire la suite :

Mise en garde de la GRC contre un « terreau fertile » pour l’exploitation sexuelle des enfants en ligne

Twitter et TikTok jusqu’à présent ne se sont pas engagés dans le projet. Aucune des deux sociétés n’a immédiatement répondu à un message de commentaire dimanche.

L’histoire continue sous la publicité

Antigone Davis, responsable mondial de la sécurité chez Meta, a déclaré que Take It Down est l’un des nombreux outils utilisés par la société pour lutter contre la maltraitance et l’exploitation des enfants sur ses plateformes.

« En plus de soutenir le développement de cet outil et d’avoir, de signaler et de bloquer des systèmes sur notre plate-forme, nous faisons également un certain nombre de choses différentes pour essayer d’empêcher ce genre de situations de se produire en premier lieu. Ainsi, par exemple, nous n’autorisons pas les adultes non connectés à envoyer des messages aux mineurs », a-t-elle déclaré.

Le site fonctionne avec des images réelles et générées par l’intelligence artificielle et des « deepfakes », a déclaré Davis. Les deepfakes sont créés pour ressembler à de vraies personnes réelles qui disent ou font des choses qu’elles n’ont pas réellement faites.