Le côté obscur de l’IA et des plateformes de communication numérique
Dans le contexte : La Corée du Sud a une histoire troublante en matière de crimes sexuels sur Internet, notamment le tristement célèbre scandale de la nth-room de 2019, où des hommes ont utilisé une salle de discussion Telegram pour faire chanter des jeunes femmes afin qu'elles commettent des actes sexuels. Aujourd'hui, le pays est confronté à une nouvelle vague de crimes sexuels contrefaits. Le président Yoon Suk Yeol et son cabinet ont présenté un plan pour lutter contre cette épidémie numérique émergente.
La Corée du Sud est confrontée à une recrudescence des crimes sexuels en ligne, notamment de la pornographie deepfake ciblant les femmes et les mineurs. Plus inquiétant encore, ce sont souvent des adolescents qui commettent ces crimes. Le président sud-coréen, Yoon Suk Yeol, a exhorté les autorités à « enquêter de manière approfondie sur ces crimes sexuels en ligne et à les combattre pour les éradiquer ».
Lors d'une réunion du cabinet, le président Yoon a expliqué que les vidéos deepfake ciblant des individus circulent largement sur les réseaux sociaux. Un afflux important de groupes de discussion Telegram a été signalé dans les écoles et les universités du pays. Dans ces groupes, les auteurs téléchargent des photos de personnes qu'ils connaissent, comme des enseignants ou des camarades de classe, qui sont ensuite transformées en images deepfake inappropriées et sexuellement explicites. Le syndicat coréen des enseignants estime que plus de 200 écoles ont été touchées par cette activité.
Le président Yoon a présenté un plan global pour lutter contre la hausse des délits sexuels en ligne. Voici quelques éléments clés de son plan :
- Initiatives éducatives visant à sensibiliser les jeunes hommes à la gravité et aux conséquences des crimes sexuels numériques, dans le but de freiner ces comportements dès le début.
- Mesures législatives visant à renforcer les lois et réglementations afin de mieux lutter contre les crimes sexuels numériques, notamment en imposant des sanctions plus sévères aux délinquants et en offrant de meilleurs systèmes de soutien aux victimes.
- Collaboration avec des entreprises technologiques pour améliorer la surveillance et la suppression des contenus nuisibles.
Cela prouve que le gouvernement sud-coréen prend au sérieux la lutte contre les crimes sexuels en ligne. Les adolescents reconnus coupables de tels crimes s’exposent à des conséquences importantes, notamment plusieurs années de prison, une détention pour mineurs, des amendes pouvant atteindre 30 millions de wons (environ 24 610 dollars) et des programmes de réhabilitation obligatoires. Par exemple, le leader du groupe nth-room, Cho Ju-bin, a été condamné à 42 ans de prison.
L'application de messagerie Telegram a récemment fait la une des journaux après l'arrestation de son fondateur, Pavel Durov, par les autorités françaises. Cette arrestation fait partie des enquêtes en cours sur les activités criminelles facilitées par l'application de messagerie Telegram, notamment la pornographie infantile et les abus sexuels.
L'arrestation de Durov est liée à des réglementations européennes plus larges, telles que le Digital Services Act (DSA), qui exige que les plateformes comme Telegram se conforment aux normes de transparence et de modération, y compris des mesures proactives pour contrôler les contenus préjudiciables et illégaux.
Certains critiques estiment que le gouvernement sud-coréen n’agit pas assez vite et devrait décréter une « urgence nationale » pour s’attaquer plus énergiquement à ce problème. Seul le temps nous dira si le président Yoon et son administration seront en mesure de lutter efficacement contre cette vague croissante de crimes numériques.
