In Corea del Sud c’è la percezione di una nuova emergenza che investe soprattutto le giovani donne: i deepfake, cioè le immagini di scene pornografiche che vedono inconsapevoli protagoniste ragazze le cui fattezze sono riprodotte con l’intelligenza artificiale, sono sempre più diffusi e le autorità si trovano di fronte alla difficoltà nell’affrontare una fattispecie di reato non ancora ben focalizzato.
Ieri la polizia di Seoul ha annunciato di aver avviato un’indagine nei confronti dell’app di messaggistica Telegram perché avrebbe consentito la diffusione di questo tipo di contenuti. Si tratta di una notizia che viene dopo che Pavel Durov, il fondatore della piattaforma, è stato arrestato in Francia. “Come ha fatto la Francia, l’Agenzia di polizia metropolitana di Seoul ha avviato un’indagine sull’entità aziendale di Telegram prima di procedere ufficialmente con l’incriminazione” ha dichiarato Woo Jong-soo, capo dell’Ufficio nazionale d’investigazione. “Le accuse – ha aggiunto – riguardano l’istigazione a produrre deepfake pornografici che hanno preso di mira giovani donne, comprese alcune adolescenti”.
Nell’ambito dell’indagine in corso, otto programmi automatizzati per la creazione di pornografia deepfake per Telegram sono sotto esame, insieme alle chat di gruppo responsabili della diffusione di tali contenuti, ha segnalato l’agenzia di stampa Yonhap. Ma come si è arrivati a definire questa nuova emergenza? In realtà l’Agenzia nazionale di polizia ha riferito oggi, secondo quanto riporta Yonhap, che nell’ultimo anno c’è stata un’impennata di segnalazioni e arresti relativi alla diffusione di immagini porno deepfake. Dal 2021 sono 403 gli individui arrestati per la creazione/diffusione di questo tipo di contenuti, ma il dato è in decisiva accelerazione: tra gennaio e luglio di quest’anno ci sono stati 146 arresti.
Il fenomeno s’inquadra in una più ampia impennata dei crimini sessuali nel cyberspazio, per i quali tra il 2021 e il 2023 sono stati effettuati nel paese asiatico 7.530 arresti. C’è poi un problema di perseguibilità di questi reati. Dei 403 arrestati per deepfake nel triennio, alla fine soltanto 12 (4,7%) sono stati incriminati formalmente in seguito all’indagine, che è un dato irrisorio e percentualmente persino inferiore a quello delle incriminazioni in seguito a presunti reati in ambiente cyber, che si è fermato al 5,5%. L’accresciuta percezione prelude probabilmente a una stretta. “I crimini sessuali digitali dovrebbero essere trattati come crimini gravi, data la velocità con cui si diffondono e il fatto che possono essere commessi utilizzando solo uno smartphone e un computer”, ha dichiarato la deputata del Partito democratico sudcoreano (maggioranza parlamentare, ma opposizione rispetto al presidente) Hwang Jung-a.
Il governo, dal canto suo, ha promesso di rafforzare le norme sul tema, mentre lo stesso presidente Yoon Suk-yeol ha lanciato un appello alla correttezza ai giovani. La sensibilità sul tema, in particolare, è stata rafforzata in seguito a una scioccante inchiesta giornalistica pubblicata sul giornale Hankoriyeh, che ha svelato come, nell’ambito di due delle principali università del paese, si sono create delle vere e proprie cerchie di diffusione di deepfake nell’ambito della piattaforma Telegram. Utilizzando software Ia (intelligenza artificiale), i malintenzionati combinano innocenti immagini di giovani donne e scenari pornografici, scambiandoseli sulla piattaforma. Inoltre, esistono delle vere e proprie “stanze dell’umiliazione”, cioè chat room dedicate al revenge porn nei confronti di compagne di scuola o conoscenti, dove continuamente vengono diffusi deepfake di questo tipo. C’è poi il rischio che
Secondo la BBC, che oggi ha dedicato un ampio articolo all’argomento e ha intervistato la giornalista di Hankoriyeh che ha realizzato l’inchiesta, Ko Narin, ci sono gruppi online con migliaia di membri che praticano questo tipo di scambi e studentesse di oltre 500 scuole e università, in molti casi minorenni, sono entrate nel mirino dei perpetratori di questi crimini. Che, a loro volta, sono per lo più giovani o giovanissimi.