Verificare l'integrità dei media con l'AI: cosa funziona davvero

Verificare l'integrità dei media significa rispondere a due domande su un'immagine, un video o un file audio. Da dove viene, e qualcuno l'ha modificato? L'AI aiuta in entrambi i casi, in tre modi diversi. Alcuni strumenti leggono i dati di provenienza firmati al momento della creazione del file. Altri cercano i watermark invisibili che i generatori AI inseriscono nei contenuti. Un terzo gruppo prova a riconoscere la manipolazione guardando solo il contenuto. Sono metodi che rispondono a domande diverse, e prendere il punteggio di un rilevatore come un verdetto definitivo è un errore comune e costoso.

La questione è diventata anche di conformità. Dal 2 agosto 2026 l'articolo 50 dell'AI Act obbliga i deployer a dichiarare i deepfake e i testi generati con l'AI pubblicati su temi di interesse pubblico, salvo che il testo sia passato da una revisione umana o da un controllo editoriale. Anche i fornitori di sistemi generativi devono marcare i loro output in un formato leggibile dalle macchine. I sistemi già sul mercato prima di quella data hanno tempo fino al 2 dicembre 2026 per la marcatura, come previsto dal Digital Omnibus sull'IA. La Commissione europea ha pubblicato un codice di buone pratiche su marcatura ed etichettatura dei contenuti generati con l'AI, su base volontaria, per mostrare come applicare le regole in pratica.

I tre livelli di verifica

1. La provenienza con le Content Credentials

C2PA (la Coalition for Content Provenance and Authenticity) definisce le Content Credentials, un registro firmato con crittografia che si aggancia a un file quando viene scattato o modificato. Il registro dice quale dispositivo o app ha prodotto il file e cosa gli è stato fatto. Se qualcuno modifica il file dopo la firma, la firma non corrisponde più.

Il supporto hardware cresce. Il Pixel 10 di Google aggiunge le Content Credentials a ogni JPEG scattato con Pixel Camera, e la sua app fotocamera ha ottenuto l'Assurance Level 2, il livello più alto allora previsto dal programma di conformità C2PA. Google distingue tra contenuti che hanno una prova verificabile di come sono stati creati e contenuti che non ce l'hanno. Evita di proposito l'etichetta "AI o non AI".

Il punto debole è che i metadati si perdono. Alcune piattaforme li eliminano al caricamento, e il file ripulito non lascia traccia delle credenziali che aveva. Le Durable Content Credentials risolvono il problema affiancando al registro firmato un watermark invisibile e un'impronta del contenuto, così il registro originale si può ritrovare in un archivio online. La conseguenza pratica conta più del meccanismo. Un file senza credenziali non prova nulla, perché la maggior parte delle foto autentiche in circolazione non le ha.

2. I watermark invisibili

I generatori AI possono inserire un segnale impercettibile nei pixel di un'immagine o nelle frequenze di una traccia audio. SynthID di Google è il sistema più grande di questo tipo. Secondo Google, dal 2023 ha marcato oltre 180 miliardi di immagini e video e 240.000 anni di audio. Il 7 ottobre 2026 il portale SynthID Detector si è aperto a tutti, a livello globale e in inglese. Riconosce i contenuti creati con gli strumenti di Google e con quelli di partner come OpenAI, NVIDIA e Kakao, e Google ha annunciato che arriverà anche Apple.

Un rilevatore di watermark riconosce solo i propri segni. Un risultato negativo significa "nessun SynthID trovato". Non significa che il file sia autentico, perché i contenuti dei generatori che non usano SynthID non vengono segnalati.

3. Il rilevamento dei deepfake

I rilevatori analizzano il contenuto (luci, contorni, tracce di compressione, spettro dell'audio) e restituiscono una probabilità che sia stato manipolato o generato. Sono l'unica opzione quando un file non ha né credenziali né watermark, e sono anche la meno affidabile.

Il dato più solido viene da Deepfake-Eval-2024, un benchmark di deepfake circolati online nel 2024. Contiene 45 ore di video, 56,5 ore di audio e 1.975 immagini da 88 siti in 52 lingue. Su questo materiale i rilevatori open source hanno perso il 50% della loro AUC sui video, il 48% sull'audio e il 45% sulle immagini rispetto ai benchmark accademici su cui erano stati costruiti. I modelli commerciali e quelli riaddestrati sui nuovi dati sono andati meglio, senza però raggiungere gli analisti forensi umani.

Cosa ti dice ogni metodo, e cosa no

Un metodo di verifica per redazioni e uffici comunicazione

1. Trova la copia più vecchia. Fai una ricerca inversa per immagini, oppure estrai i fotogrammi chiave da un video e cerca quelli. Molti presunti deepfake sono foto vere di un altro evento, e questo passaggio li chiude in pochi minuti.

2. Controlla la provenienza. Apri il file in un visualizzatore di Content Credentials. Credenziali valide sono una prova forte. Credenziali assenti non provano nulla.

3. Cerca i watermark. Carica la versione di qualità più alta che trovi su SynthID Detector, e sugli altri rilevatori dei generatori che sospetti.

4. Usa il rilevatore di deepfake per ultimo. Il suo punteggio è una pista da seguire. Non scrivere mai "l'immagine è falsa" basandoti solo su un rilevatore.

5. Verifica l'affermazione che accompagna il file. Chi dovrebbe comparire, dove e quando sarebbe stato girato? Sono domande da fact-checking, e le trovi nella guida alle tecniche di fact-checking con l'AI.

6. Registra cosa hai controllato. Se pubblichi o rispondi, annota ogni passaggio e il suo esito. Se pubblichi tu immagini generate con l'AI nell'Unione europea, etichettale.

Dove entra Scova AI

Scova AI lavora a monte dei controlli sul singolo file. Monitora testate e blog, così un team si accorge in fretta quando un'immagine manipolata o una notizia falsa sulla sua organizzazione inizia a girare sulla stampa. Il testo che la accompagna si verifica con un clic. I controlli descritti sopra si fanno poi sul file specifico. Per il quadro più ampio c'è la nostra guida su come intercettare la disinformazione nelle comunicazioni aziendali.

Domande frequenti

Cosa significa integrità dei media?

Significa che un'immagine, un video o un file audio è quello che dichiara di essere. Se ne conosce l'origine, e le modifiche successive allo scatto sono registrate oppure assenti. Per verificarla si combinano il controllo della provenienza, la ricerca dei watermark e l'analisi delle manipolazioni.

L'AI riesce a riconoscere i deepfake in modo affidabile?

Da sola no. Sui deepfake reali raccolti nel 2024 i rilevatori open source hanno perso tra il 45% e il 50% della loro AUC rispetto ai benchmark accademici, e i migliori strumenti commerciali restavano dietro agli analisti umani. Il rilevamento funziona meglio come un segnale tra tanti.

Se un'immagine non ha watermark né Content Credentials, è vera?

No. La maggior parte delle immagini autentiche non ha né l'uno né le altre, e alcune piattaforme eliminano i metadati al caricamento. Un segnale assente non dice nulla in nessuna direzione. Solo un segnale presente e valido è informativo.

Che differenza c'è tra C2PA e SynthID?

Le Content Credentials C2PA sono metadati firmati che descrivono come un file è stato creato e modificato, e valgono sia per le foto scattate con una fotocamera sia per i contenuti AI. SynthID è un watermark invisibile che Google e i generatori partner inseriscono nei contenuti creati con l'AI. I due sistemi si completano, e alcuni fornitori li usano entrambi.

Cosa chiede l'AI Act sui deepfake?

Con l'articolo 50, applicabile dal 2 agosto 2026, i deployer devono dichiarare che un contenuto audio, video o di immagine è un deepfake. I fornitori di sistemi di AI generativa devono marcare gli output in un formato leggibile dalle macchine, con tempo fino al 2 dicembre 2026 per i sistemi già sul mercato prima di agosto. Per le opere chiaramente artistiche, satiriche o di finzione la dichiarazione può essere più leggera, così da non rovinare l'opera.