Nel profondo del Deepfake
Il progresso tecnologico in atto, non si sta limitando a fornire conoscenze collaterali a quelle esistenti, sta plasmando e ridefinendo fattori di non poco conto, sui quali è necessario soffermarsi a ragionare ed osservare le molteplici direzioni che il settore informatico sta sperimentando.
Tecnologie attive quali i GAN (generative adversarial network), atte all’apprendimento automatico non supervisionato, si avvalgono di due reti neurali, contemporaneamente collaborative ed in conflitto tra loro, per poter giungere alla creazione ex novo.
Un meccanismo che si esplica in progetti quali “This person doesn’t exist ”, ovvero la creazione d’infiniti volti umani inesistenti ma estremamente realistici. Inesauribile fonte di fotografie che si auto-generano ad ogni refresh del browser.
Per quel che concerne le immagine fotografiche, le architetture StyleGAN permettono di generare contenuti visivi difficilmente individuabili, operando mediante sovrapposizioni di volti su corpi differenti, veri e propri “face swap”, ma anche audio-video sintetizzati.
I casi più eclatanti
Basta pensare al filmato pubblicato da BuzzFeed nel 2018 che mostra Barack Obama pronunciare parole mai dette, con lo scopo di aprire un dibattito e diffondere consapevolezza sui potenziali rischi che derivano dall’uso dell’AI.
Altro rilevante episodio ha avuto come protagonista Mark Zuckerberg mentre dichiarava di essere affiliato all’organizzazione criminosa “Spectre”. È vero che il video in questo caso era stato realizzato con scopo artistico da Bill Posters e Daniel Howe, eppure ha mostrato come i deepfake possano essere utilizzati per causare un danno alla persona, per diffondere disinformazione e danneggiare la reputazione, non solo di persone fisiche, ma anche giuridiche.
La capacità di generare false informazioni, procede più velocemente della capacità di rilevarle. Lo conferma il Rapporto CLUSIT del 2020, una disamina sugli eventi di cybercrime più significativi a livello globale che stima un’esponenziale crescita di attacchi fondati su tecniche di ingegneria sociale ed intelligenza artificiale, volte a danneggiare organizzazioni economiche. Risulta evidente come innovazioni di questo tipo possano influire negativamente sulla corporate reputation, riflettendosi in una inflessione degli utili e dei capitali.
OSINT e Deepfake
Senza entrare nel merito delle implicazioni legali, etiche e sociali, si può facilmente intuire il forte impatto che ha il deepfake sulla metodologia di ricerca OSINT, trattandosi di una tipologia di monitoraggio di macro aree di comunicazione che procede – per esigenze d’intelligence- all’ispezione di risorse documentali web e riscontri diretti su fotografie, filmati e mappe.
Un semplice software di animazione con una media potenza di calcolo quale Adobe After Effects , consente a chiunque di creare falsi audiovisivi, oltre a strumenti liberamente accessibili a livello consumer come Fake App, Deepface e Faceswap.
Si rende necessario, un grado di analisi più profondo per le indagini su fonti aperte che, metta in discussione non solo la possibile faziosità della fonte, ma la sua stessa veridicità. Una maggiore attenzione ad eventuali incongruenze nell’analisi di un’informazione audiovisiva o fotografica, quali possono essere errori di movimento, prospettiva e proporzioni, oltre ad alcuni indizi e manierismi.
Le persone coinvolte nella manipolazione potrebbero essere rappresentate in contesti, luoghi mai visitati ed associate ad ambienti e personalità mai frequentate o essere ritratte in situazioni compromettenti.
Perdendo il controllo sulla propria immagine, si viene privati delle proprie idee e ci si ritrova coinvolti in quel paradosso definito “liar’s dividend”.
Gli attacchi di tipo reputazionale non solo minano la capacità di chi osserva, di distinguere il contenuto falso da quello vero, ma sono una grave forma di furto d’identità. D’altro canto però i deepfake permettono ai professionisti OSINT di creare una seconda identità dall’aspetto del tutto legittimo per il perseguimento delle proprie indagini.