Sous des banderoles proclamant « Solidarité » et « Ensemble aux côtés des victimes », des Sud-Coréennes traquent en ligne la pornographie générée par IA qui usurpe l’identité de leurs concitoyennes.
La Corée du Sud, fière de sa puissance technologique, fait face au revers de sa réussite: les femmes y sont victimes d’un fléau, les « crimes sexuels numériques » généralisés (caméras espionnes, chantage, « revenge porn »).
Dernière menace en date : les deepfakes. Avec une simple photo et un outil d’IA générative, les harceleurs créent des images pornographiques imitant leurs cibles.
Au Centre national de réponse aux crimes sexuels numériques, installé dans des bureaux à Séoul, 23 femmes ont pour mission de briser ce phénomène en passant le web au peigne fin et en soumettant des demandes de suppression de contenu sous peine de poursuites judiciaires.
Lire aussi « La vitesse est la seule voie de survie » : la Corée du Sud lance un plan géant pour les semi-conducteurs et l’IA
10 600 victimes aidées, 318 000 contenus supprimés
L’année dernière, elles ont fait retirer 318.000 vidéos et photos – des deepfakes, ainsi que des clichés de caméras espionnes ou des images intimes partagées sans consentement – pour le compte de 10.600 personnes, dont 76% de femmes et de jeunes filles.
« La Corée du Sud a réagi plus vite que d’autres, non seulement parce que les crimes sexuels numériques y sont devenus fréquents plus tôt qu’ailleurs, mais aussi parce que les femmes se sont élevées contre ces pratiques tout aussi rapidement et énergiquement », a déclaré à l’AFP Kim Mi-soon, la responsable de ce centre fondé par le gouvernement.
Accompagnement psychologique et juridique
Outre le retrait de contenus, le site et ses 17 antennes régionales proposent un accompagnement psychologique et juridique.
Kim, une militaire de 33 ans qui demande à n’être identifiée que par son nom de famille pour des raisons de confidentialité, a vu des deepfakes d’elle partagés en 2024 sur des applications chiffrées.
« Le centre n’est peut-être pas parfait, mais il peut faire une énorme différence pour les victimes qui traversent ce cauchemar seules », a-t-elle confié, saluant le soutien reçu. « Cela m’a apporté un immense soulagement et beaucoup de réconfort. Mener la procédure judiciaire seule tout en souffrant d’un traumatisme aurait été impossible. »
Lire aussi Deepfakes, la réalité alternative : comment les détecter, comment s’en protéger ?
Les crimes sexuels numériques représentent désormais 40 % des infractions sexuelles en Corée du Sud
Les crimes sexuels numériques représentent désormais 40% des infractions sexuelles dans le pays. Et le phénomène s’aggrave: selon la firme Security Hero, plus de la moitié des victimes mondiales de deepfakes pornographiques sont sud-coréennes.
« Depuis l’année dernière, nous voyons de plus en plus de deepfakes de femmes et de jeunes filles ordinaires, avec des images qui deviennent bien plus sophistiquées qu’auparavant et des victimes de plus en plus jeunes », explique Kim Yun-hee, spécialiste de la suppression de contenus.
« Ce travail n’est pas facile », a confié la jeune femme de 31 ans à l’AFP. « Mais c’est vraiment gratifiant chaque fois que nos clientes nous disent que notre service leur a littéralement sauvé la vie. »
Lire aussi Deepfakes pornographiques : un déferlement de cyberharcèlement contre les femmes en politique
« Exemple pour le reste du monde »
En Corée du Sud, la création de deepfakes pornographiques est passible de sept ans d’emprisonnement, des peines durcies après la découverte de groupes de discussion Telegram dédiés.
Clare McGlynn, professeure de droit à l’université de Durham au Royaume-Uni, estime que Séoul est « en première ligne pour fournir des services d’accompagnement globaux et investir dans les technologies de pointe afin de tenter de réduire les dommages ». L’approche du pays offre « un exemple pour le reste du monde », a-t-elle déclaré à l’AFP.
Mais pour des associations, la réponse technique ne suffit pas face à une culture patriarcale persistante.
Kim Yeo-jin, responsable de l’organisation à but non lucratif Korea Cyber Sexual Violence Response Center, a expliqué à l’AFP qu’à ce problème virtuel devait être apportée une solution dans le monde réel.
« Tant que nous ne nous attaquerons pas à cette cause fondamentale en favorisant une plus grande égalité des genres dans l’ensemble de la société et en renforçant l’éducation à l’égalité des genres à l’école, aucun effort de suppression de contenus ne sera suffisant », a-t-elle affirmé.
Source:
www.sciencesetavenir.fr
