Un esempio di deepfake creato da CNBC
Kyle Walsh
I ricercatori di intelligenza artificiale di Facebook e della Michigan State University affermano di aver sviluppato un nuovo software che potrebbe rivelare da dove provengono i cosiddetti deepfake.
I deepfake sono video che sono stati alterati digitalmente in qualche modo con l’intelligenza artificiale. Sono diventati sempre più realistici negli ultimi anni, rendendo più difficile per gli umani determinare cosa è reale su Internet, e in realtà su Facebook, e cosa non lo è.
I ricercatori di Facebook affermano che il loro software di intelligenza artificiale – annunciato mercoledì – può essere addestrato per stabilire se un pezzo di media è falso o profondo da un’immagine statica o da un singolo fotogramma di video. Non solo, dicono che il software può anche identificare l’IA che è stata utilizzata per creare il deepfake in primo luogo, non importa quanto nuova sia la tecnica.
Tal Hassner, capo della ricerca applicata di Facebook, ha dichiarato alla CNBC che è possibile addestrare un software di intelligenza artificiale “a guardare la foto e dire con un ragionevole grado di accuratezza quale sia il design del modello di intelligenza artificiale che ha generato quella foto”.
Il sondaggio arriva dopo che MSU ha realizzato lo scorso anno che è possibile determinare quale modello di fotocamera è stato utilizzato per scattare una foto specifica – Hassner ha affermato che il lavoro di Facebook con MSU si basa su questo.
“Gioco del gatto e del topo”
I deepfake sono cattive notizie per Facebook, che lotta costantemente per tenere i contenuti falsi fuori dalla sua piattaforma principale, così come per Messenger, Instagram e WhatsApp. La società ha vietato i deepfake nel gennaio 2020, ma fa fatica a rimuoverli rapidamente dalla sua piattaforma.
Hassner ha affermato che rilevare i deepfake è un “gioco del gatto e del topo”, aggiungendo che stanno diventando più facili da produrre e più difficili da rilevare.
Una delle principali applicazioni dei deepfake finora è stata nella pornografia, dove il viso di una persona viene scambiato con il corpo di un’altra persona, ma sono stati anche usati per far sembrare che le celebrità facciano o dicano qualcosa che non sono.
In effetti, una serie di deepfake iperrealistici e bizzarri di Tom Cruise su TikTok sono stati guardati oltre 50 milioni di volte, con molti che lottano per vedere quanto siano irreali.
Oggi è possibile per chiunque creare i propri deepfake utilizzando app gratuite come FakeApp o Faceswap.
L’esperta di deepfake Nina Schick, che ha consigliato il presidente degli Stati Uniti Joe Biden e il presidente francese Emmanuel Macron, ha detto lunedì alla conferenza CogX AI che rilevare i deepfake non è facile.
In un’e-mail di follow-up, ha detto alla CNBC che il lavoro di Facebook e MSU “sembra un grosso problema in termini di rilevamento”, ma ha sottolineato che è importante scoprire come funzionano bene i modelli di rilevamento deepfake in natura.
“È davvero utile testarlo su un set di dati di addestramento in un ambiente controllato”, ha affermato, aggiungendo che “una delle grandi sfide sembra essere che ci siano modi semplici per ingannare i modelli di rilevamento, ovvero comprimere un’immagine o un video. “
Tassner ha ammesso che potrebbe essere possibile per un cattivo attore aggirare il rilevatore. “Sarebbe in grado di sconfiggere il nostro sistema? Suppongo di sì”, ha detto.
In linea di massima, esistono due tipi di deepfake. Quelli che sono completamente generati dall’intelligenza artificiale, come i falsi volti umani su www.thispersondoesnotexist.com e altri che utilizzano elementi dell’intelligenza artificiale per manipolare i media autentici.
Schick si è chiesto se lo strumento di Facebook avrebbe funzionato su quest’ultimo, aggiungendo che “non può mai esserci un rilevatore valido per tutti”. Ma Xiaoming Liu, un collaboratore di Facebook nello stato del Michigan, ha affermato che il lavoro “è stato valutato e convalidato in entrambi i casi di falsificazioni profonde”. Liu ha aggiunto che “le prestazioni potrebbero essere inferiori” nei casi in cui la manipolazione avviene solo in un’area molto piccola.
Chris Ume, l’artista dei media sintetici dietro i deepfake Tom Cruise, ha detto lunedì a CogX che la tecnologia dei deepfake si sta muovendo rapidamente.
“Esistono molti strumenti di intelligenza artificiale diversi e per Tom Cruise, ad esempio, sto combinando molti strumenti diversi per ottenere la qualità che vedi sul mio canale”, ha affermato.
Non è chiaro come o se Facebook tenterà di applicare il software di Tassner alle sue piattaforme. “Non siamo nemmeno al punto di avere una discussione sul prodotto”, ha affermato Tassner, aggiungendo che ci sono diversi potenziali casi d’uso, incluso il rilevamento di attacchi deepfake coordinati.
“Se qualcuno volesse abusarne (modelli generativi) e condurre un attacco coordinato inviando cose da fonti diverse, possiamo identificarlo semplicemente dicendo che provengono tutti dallo stesso stampo che non abbiamo mai visto prima, ma hanno queste proprietà , attributi specifici”, ha detto.
Come parte del lavoro, Facebook ha affermato di aver raccolto e catalogato 100 diversi modelli di deepfake esistenti.
