La crise des faux nus générés par l’IA secoue la Corée du Sud : « Tout le monde peut être victime »
Suivez nous sur Google NewsLa Corée du Sud fait face à une crise grandissante liée à la prolifération d’images pornographiques falsifiées, un phénomène rendu possible grâce aux progrès de l’intelligence artificielle (IA). Cette situation préoccupante a conduit les autorités à lancer une vaste enquête pour tenter de juguler ce fléau qui touche des centaines de victimes, y compris des mineurs. Les réseaux de messagerie comme Telegram se sont révélés être des vecteurs majeurs de diffusion de ces contenus illicites, suscitant l’indignation du président sud-coréen Yoon Suk Yeol qui a dénoncé des « délits clairs exploitant la technologie sous le couvert de l’anonymat ».
L’ampleur du phénomène en Corée du Sud
Selon les données de 2023 de l’entreprise de prévention des fraudes d’identité Security Hero, près de 50% des personnes présentées dans la pornographie profonde en ligne sont des chanteuses et actrices sud-coréennes, sur la base de l’analyse de près de 100 000 vidéos diffusées sur plus de 100 sites web.
Les femmes sud-coréennes sont ainsi particulièrement exposées depuis des années à l’utilisation non consensuelle de leurs images à caractère sexuel en ligne. Les autorités municipales mènent régulièrement des inspections dans les toilettes publiques pour détecter la présence de caméras cachées, et des célébrités ont même été accusées de diffuser des enregistrements obtenus illégalement.
La traque des groupes Telegram
L’enquête menée par les autorités sud-coréennes a permis de mettre au jour un réseau actif sur la plateforme de messagerie Telegram, comprenant environ 1 200 membres depuis 2020 au sein d’une université.
Outre le partage d’images manipulées, ce groupe distribuait également des informations personnelles sur les victimes, telles que leurs numéros de téléphone, adresses et numéros d’identification étudiante. Selon des volontaires ayant passé en revue les discussions sur Telegram, près de 500 établissements scolaires, des universités aux écoles primaires, auraient été touchés par ce phénomène.
Les efforts de répression et les défis juridiques
Face à cette situation, le gouvernement sud-coréen a lancé une répression contre la production et la diffusion de ces images pornographiques falsifiées. Cependant, cette action s’inscrit dans un contexte de préoccupation internationale, notamment après l’arrestation en France du fondateur de Telegram, Pavel Durov, dans le cadre d’une enquête sur la facilitation de la criminalité en ligne, incluant la distribution de pornographie infantile.
Les autorités sud-coréennes peinent à faire évoluer la législation pour s’adapter aux menaces représentées par ces contenus sexuels générés par l’IA. Actuellement, les protections en place ne sont pas suffisantes pour faire face à cette nouvelle forme de cybercriminalité. Les législateurs travaillent donc à combler ces lacunes juridiques et à durcir les sanctions, tout en cherchant à identifier les principaux responsables, dont une majorité d’adolescents selon les chiffres de la police nationale.
Le rôle des établissements scolaires
La Fédération coréenne des syndicats d’enseignants a souligné que la responsabilité de signaler et d’enquêter sur ces cas repose principalement sur les établissements scolaires. Elle a recommandé la mise en place d’un mécanisme fédéral pour identifier les auteurs de ces actes.
Cette situation a conduit de nombreux élèves à rendre leurs comptes privés ou à supprimer les photos qu’ils avaient publiées en ligne, par crainte de voir leur image exploitée à leur insu. Les écoles se retrouvent ainsi confrontées à la nécessité de mettre en place des mesures de protection et de sensibilisation pour leurs élèves.
L’impact sur les victimes
Les victimes de cette crise des faux nus générés par l’IA sont nombreuses et diversifiées, allant des professeurs aux officiers militaires, en passant par les étudiants universitaires et les élèves du primaire. Selon le président Yoon Suk Yeol, « tout le monde peut être une victime » de ces pratiques illégales qui exploitent la technologie sous couvert d’anonymat.
L’impact psychologique et social sur ces personnes peut être dévastateur, avec un sentiment de violation de leur intimité et de leur dignité. Certaines ont choisi de restreindre leur présence en ligne ou de supprimer leurs photos, dans l’espoir de limiter les dommages causés par la diffusion non autorisée de leur image.
Les efforts de modération de Telegram
En réponse à l’enquête menée en Corée du Sud, un représentant de Telegram a déclaré que la plateforme supprime chaque jour des millions de contenus nuisibles grâce à la modération, aux outils d’intelligence artificielle et aux signalements des utilisateurs. Cependant, la capture de son fondateur Pavel Durov en France dans le cadre d’une enquête sur la facilitation de la criminalité en ligne souligne les défis auxquels sont confrontées les entreprises de messagerie pour endiguer ce phénomène.
Les statistiques alarmantes
Selon les données réglementaires étatiques, plus de 6 000 Sud-Coréens ont demandé le retrait d’images pornographiques falsifiées créées sans leur consentement depuis le début de l’année 2023, un chiffre qui se rapproche déjà du total annuel de l’année dernière, estimé à environ 7 000 demandes.
De plus, sur les quelque 300 personnes accusées de créer et de diffuser ces images pornographiques falsifiées depuis le début de 2023, environ 70% étaient des adolescents, d’après les chiffres de l’Agence nationale de police coréenne.
Les conséquences pour les établissements scolaires
La situation a également des répercussions directes sur les établissements scolaires, qui se retrouvent au cœur de cette crise. Un site web répertoriant les écoles impliquées a d’ailleurs accumulé près de 3 millions de visites depuis sa création, témoignant de l’ampleur du phénomène.
Les écoles sont confrontées à la nécessité de mettre en place des mesures de prévention et de gestion de ces situations, tout en soutenant les élèves victimes. La Fédération coréenne des syndicats d’enseignants a souligné l’importance de la création d’un mécanisme fédéral pour identifier les auteurs de ces actes et alléger le fardeau des établissements scolaires.
L’urgence d’agir
Face à cette crise des faux nus générés par l’IA, la Corée du Sud se trouve dans une situation préoccupante qui nécessite une réponse rapide et coordonnée. Les autorités ont lancé une enquête ambitieuse, mais les défis juridiques et technologiques restent importants.
La protection des victimes, la poursuite des responsables et le renforcement de la réglementation sont des enjeux cruciaux pour endiguer ce phénomène qui met en danger de nombreuses personnes, notamment des mineurs. L’implication des établissements scolaires et la sensibilisation du public sont également des éléments clés pour faire face à cette crise.
