Page 134 - Rassegna 2024-2

SCIENTIAE

Facendo maggiore leva sul bias di autorità, precedentemente introdotto, il
disordine informativo, intensificato da tecnologie di linguaggio generative basa-
te su IA, è certamente amplificato dai deepfake, una forma avanzata di manipo-
lazione multimediale che utilizza tecnologie di IA per creare contenuti audiovi-
11
sivi falsi e convincenti, spesso difficili da distinguere dalla realtà . Tali video,
immagini o audio possono ritrarre persone famose, politici o individui comuni
coinvolti in situazioni inventate o dicendo cose che non hanno mai detto.
A differenza delle fake news, tradizionale testo disinformativo, i deepfake
rappresentano, pertanto, un pericolo ancora più insidioso in quanto possono
facilmente ingannare gli spettatori, minando la fiducia nella veridicità dei
media e nella realtà stessa. Questa capacità di manipolare contenuti audiovisivi
con precisione e facilità ha sollevato serie preoccupazioni riguardo alla diffu-
sione di disinformazione, alla manipolazione dell’opinione pubblica e al poten-
ziale danneggiamento delle democrazie, tanto da introdurre l’espressione wea-
ponization of deepfake, ovvero la trasformazione dei deepfake in armamento di
manipolazione del consenso delle masse. Non è un caso, infatti, che i deepfake
siano utilizzati per:
creare video realistici che sembrano presentare figure di spicco che
approvano ideologie estremiste;
impersonare leader estremisti o figure influenti all’interno delle comuni-
tà radicalizzate al fine di diffondere messaggi o istruzioni per attacchi xenofobi
o terroristici;
tattiche di ingegneria sociale con Manipolazione delle Emozioni, Falsa
Sensazione di Appartenenza, Narrazioni Ingannevoli, Sfruttamento delle Lamentele.
12
Non sorprende che le frodi tramite deepfake abbiano registrato un
aumento decuplicato dal 2022 al 2023. Se così tanti individui ed aziende sono
già vittime di frodi basate su questa tecnologia, è facile immaginare quanto i
deepfake possano essere efficaci nel manipolare o influenzare il pensiero delle
persone, attività estremamente meno complessa di condurre un’azione ingan-
nevole volta ad ottenere un vantaggio mirato illegittimo.

3. Incitamento all’odio online
Diversi gruppi jihadisti mantengono la loro attività sui social media, attiran-
do nuovi adepti, mentre si assiste anche alla proliferazione della propaganda isla-
mofobica promossa da organizzazioni di estrema destra.

11 Gianluigi Me, OSINT in the intelligence era, Ed. Themis.
12 https://sumsub.com/blog/sumsub-experts-top-kyc-trends-2024/ acceduto l’11 marzo
2024.

132