Note a margine del Deepfake Intelligence Report di identifAI
Premessa: il fenomeno e il quadro normativo di riferimento
Con il termine “deepfake” si designa, in via tecnica, un contenuto audio, video o iconografico generato o manipolato mediante sistemi di intelligenza artificiale, tipicamente reti generative avversarie (GAN) e modelli di diffusione, con un grado di realismo tale da apparire autentico.
La nozione è ormai recepita dal diritto positivo dell’Unione: l’art. 50, par. 4, del Regolamento (UE) 2024/1689 (“AI Act”) impone ai deployer di un sistema di AI che genera o manipola contenuti di immagini, audio o video che costituiscono un deep fake di “divulgare che tali contenuti sono stati generati o manipolati artificialmente“, salvo che l’uso sia autorizzato dalla legge per finalità di prevenzione, accertamento, indagine o perseguimento di reati, ovvero che il contenuto si inserisca in un’opera o programma manifestamente artistico, creativo, satirico, fittizio o analogo. In tal caso l’obbligo si limita ad una segnalazione adeguata che non pregiudichi la fruizione dell’opera.
L’applicabilità del regime di trasparenza è fissata al 2 agosto 2026.
Sul piano dell’ordinamento interno, va ricordato che la L. 23 settembre 2025, n. 132, in vigore dal 10 ottobre 2025, ha apportato modifiche organiche al diritto penale dell’intelligenza artificiale. L’art. 26, comma 1, ha introdotto l’art. 612-quater c.p. che punisce l’Illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale.
A questo quadro si affiancano gli strumenti dell’ordinamento generale: il GDPR (Reg. UE 2016/679), con particolare riguardo agli artt. 6 e 9 in materia di dati biometrici; il Digital Services Act (Reg. UE 2022/2065), per i profili di responsabilità delle piattaforme; gli artt. 10 c.c. e 96-97 L. 633/1941 in materia di diritto all’immagine.
È in questo contesto che si colloca il Deepfake Intelligence Report recentemente pubblicato da IdentifAI, società attiva nello sviluppo di tecnologie di rilevamento dei media sintetici, che restituisce, su base osservazionale, una rappresentazione quantitativa del fenomeno nel periodo gennaio 2020 – marzo 2026.
Un ecosistema di minacce segmentato
La distribuzione degli incidenti rilevati dal report restituisce una segmentazione funzionale piuttosto netta. La manipolazione politica copre il 24,6% dei casi, seguita dalle condotte fraudolente a connotazione prevalentemente economica (20,1%), dalla pornografia non consensuale (11,3%) e dall’uso illecito dell’immagine di personaggi noti (9,3%); il 31,5% degli incidenti rimane non classificato, in larga misura per la transitorietà o l’opacità dei contenuti osservati. Il dato suggerisce che il deepfake non costituisce un fine in sé, bensì uno strumento adattabile a finalità eterogenee: destabilizzazione del discorso pubblico, conseguimento di vantaggi patrimoniali, aggressione alla reputazione e all’identità personale.
Vettori tecnici: dal video sintetico alla clonazione vocale
Sotto il profilo tecnico, il vettore prevalente è il video generato o manipolato mediante reti generative avversarie e modelli di diffusione (45,6% degli incidenti osservati), seguito dai formati multimodali combinati (25,2%), dalle immagini statiche (17,4%) e dalla clonazione vocale (10,5%). Quest’ultima, pur in posizione quantitativamente minore, riveste un rilievo strategico crescente: l’evoluzione delle tecniche di sintesi vocale a basso quantitativo di dati di addestramento – sufficienti pochi secondi di registrazione del soggetto – ha reso la clonazione audio un vettore privilegiato per gli attacchi di tipo Business E-mail Compromise e per il vishing sincrono in ambito aziendale. Il report individua un punto di flesso nel biennio 2022-2023, in coincidenza con la diffusione di strumenti generativi consumer-grade che hanno significativamente ridotto le barriere tecniche di accesso alla produzione di contenuti ad elevata fedeltà.
Le piattaforme digitali come infrastruttura di amplificazione
Le piattaforme social costituiscono il principale canale di diffusione dei contenuti rilevati. All’interno dell’aggregato “social media”, X concentra il 51,2% dei casi censiti, seguito da TikTok (21,1%), YouTube (10,0%), Facebook (8,2%) e Instagram (5,0%); Telegram (1,4%) e WhatsApp (1,1%), pur con quote inferiori, rilevano quali canali di distribuzione in ambiti chiusi o semi-chiusi. La criticità non riguarda soltanto la presenza dei contenuti, ma la velocità con cui essi raggiungono ampi bacini di utenti prima che possano intervenire meccanismi di verifica efficaci. È sul piano dell’amplificazione algoritmica che si gioca, in larga parte, la questione della responsabilità degli intermediari digitali, ridefinita – in ambito europeo – dal Digital Services Act, segnatamente attraverso gli obblighi di mitigazione del rischio sistemico imposti alle piattaforme online di grandi dimensioni.
Dalla disinformazione alla frode in tempo reale
Tra le evoluzioni più rilevanti segnalate dal report figura il passaggio prospettato, su orizzonte annuale, da contenuti pre-generati a operazioni di manipolazione sintetica in tempo reale. La clonazione vocale istantanea, i sistemi di face-swap live e le tecniche di camera injection stanno ridefinendo il perimetro della minaccia. In ambito finanziario, ciò si traduce in una crescita degli attacchi di impersonificazione di dirigenti aziendali, in particolare attraverso schemi di Business E-mail Compromise e frodi basate su interazioni vocali o videoconferenze sincrone. La componente tecnologica si integra in misura crescente con l’ingegneria sociale, riducendo l’efficacia delle tradizionali difese perimetrali.
Targeting: dalla sfera pubblica all’impresa
L’analisi dei bersagli mostra una duplice direttrice. Da un lato, figure politiche e personaggi pubblici sono oggetto di manipolazione per massimizzare l’impatto narrativo e geopolitico delle campagne. Dall’altro, cresce in modo accelerato il targeting del settore aziendale – in particolare di dirigenti apicali, direttori finanziari e figure di vertice – in correlazione con la maturazione delle tecniche di frode sincrona. Quest’ultima evoluzione segnala un cambio di paradigma: dal disordine informativo alla monetizzazione diretta del rischio, in cui l’identità digitale assume rilievo come bene autonomamente aggredibile, anche con finalità lucrative.
Asimmetrie geopolitiche e frammentazione regolatoria
Sul piano regolatorio, il quadro internazionale si presenta significativamente frammentato. L’Unione europea ha definito, con l’AI Act, un modello fondato su trasparenza, provenance e responsabilizzazione dei deployer; gli Stati Uniti procedono per ordini esecutivi e leggi settoriali; alcune giurisdizioni asiatiche stanno sviluppando framework centrati sulla protezione dell’infrastruttura digitale pubblica. Tale frammentazione può generare spazi di arbitraggio normativo, sfruttabili dagli attori malevoli attraverso operatività multi giurisdizionale.
Il ruolo dei media e i limiti della verifica tradizionale
Il giornalismo e il fact-checking restano elementi essenziali nella risposta al fenomeno, ma operano in condizioni di crescente svantaggio temporale: la velocità di produzione e diffusione dei contenuti sintetici eccede sovente la capacità di verifica editoriale, rendendo insufficiente un approccio basato esclusivamente sulla correzione ex post. Si segnala, in chiave costruttiva, che il considerando 134 dell’AI Act assume la revisione editoriale umana quale meccanismo di esenzione dagli obblighi di trasparenza per i testi generati o manipolati con IA su questioni di pubblico interesse: opzione regolatoria che riconosce al giornalismo un ruolo di gatekeeper della disclosure e ne valorizza la funzione di garanzia, pur senza alleggerirne il carico di responsabilità. Ne discende che la verifica editoriale, pur restando essenziale, non può, da sola, assolvere all’intero onere di accertamento dell’autenticità dei contenuti: occorre affiancarvi strumenti di rilevazione in tempo reale, infrastrutture di autenticazione dell’origine e una più rigorosa responsabilità delle piattaforme.
Conclusioni
Le evidenze restituite dal report descrivono un fenomeno ormai strutturato, nel quale la criticità non risiede tanto nella sola qualità tecnica dei contenuti sintetici, quanto nella velocità con cui possono essere prodotti, distribuiti e resi credibili.
La tenuta del sistema informativo richiede dunque un’azione coordinata sul piano tecnologico, regolatorio e propriamente giuridico.
La sfida che ne deriva non è quella, ormai superata, della mera repressione ex post, bensì quella, ben più impegnativa, della costruzione di un’infrastruttura giuridica e tecnica di prevenzione, di autenticazione dell’origine dei contenuti e di tutela effettiva della persona nella sua rappresentazione esterna. È un terreno sul quale la riflessione dottrinale e l’elaborazione giurisprudenziale appaiono destinate a intensificarsi.
10.07.2026
