Come capire se un’immagine è generata dall’intelligenza artificiale

Nei giorni scorsi la foto di papa Francesco, avvolto in un elegante piumino Balenciaga, è diventata virale in tutto il mondo. C’è solo un problema: il Papa non ha mai indossato quel capo di abbigliamento. L’immagine è stata generata da un programma di intelligenza artificiale chiamato Midjourney. Per non cadere in inganno è possibile imparare a conoscere gli indizi che identificano un’immagine AI. Spesso presentano distorsioni visive bizzarre che si può imparare a individuare. A volte, inoltre, l’uso dell’IA è chiaramente indicato nella descrizione dell’immagine,  quindi vale sempre la pena di controllare. Se tutto il resto fallisce, si può passare l’immagine attraverso un rilevatore GAN. La prima cosa da fare è

1. controllare il titolo, la descrizione e la sezione dei commenti

Non tutti sono d’accordo sulla necessità di rivelare l’uso dell’intelligenza artificiale quando si pubblicano immagini, ma per coloro che scelgono di farlo, l’informazione si trova nel titolo o nella sezione della descrizione di un post. Un altro buon posto dove cercare è la sezione dei commenti, dove l’autore potrebbe averne parlato. Nelle immagini qui sopra, ad esempio, è stato incluso il prompt completo utilizzato per generare l’opera d’arte, che si rivela utile per chiunque voglia migliorare le proprie immagini di IA. Oltre al titolo, alla descrizione e alla sezione dei commenti, si può anche andare alla pagina del profilo per cercare indizi. Parole chiave come Midjourney o DALL-E, i nomi di due popolari generatori di IA, sono sufficienti a farvi capire che le immagini che state guardando potrebbero essere generate dall’IA.

2. Cercare un watermark

Un altro indizio importante per identificare un’immagine generata dall’intelligenza artificiale è il watermark. DALL-E 2 ne inserisce una su ogni foto scaricata dal suo sito, anche se all’inizio potrebbe non essere evidente. Riuscite a individuare il watermark nell’immagine qui sopra? Si trova nell’angolo in basso a destra dell’immagine e si presenta come cinque quadrati di colore giallo, turchese, verde, rosso e blu. Se vedete questo watermark su un’immagine in cui vi imbattete, allora potete essere certi che è stata creata con DALL-E 2.

Il problema è che è molto facile scaricare la stessa immagine senza watermark se si sa come farlo, e farlo non è contro la politica di OpenAI. Finché “non si ingannano gli altri sulla natura dell’opera”, dicendo che è stata realizzata da voi o che si tratta di una fotografia di un evento reale, le linee guida di OpenAI consentono di rimuovere il watermark. Midjourney, invece, non utilizza alcun watermark, lasciando agli utenti la possibilità di scegliere se accreditare l’IA nelle loro immagini.

3. Ricerca di anomalie nell’immagine

Forse non si notano subito, ma le immagini generate dall’IA spesso presentano alcuni strani indicatori visivi che risultano più evidenti quando si guarda più da vicino. Da lontano, l’immagine qui sopra mostra diversi cani seduti attorno a un tavolo da pranzo, ma a un’analisi più attenta ci si rende conto che alcuni occhi dei cani sono assenti e altri volti sembrano semplicemente una macchia di vernice. Un primo piano di un’immagine generata dall’intelligenza artificiale che mostra strane distorsioni nei volti dei cani

L’effetto è simile a quello dei dipinti impressionisti, composti da brevi pennellate che catturano l’essenza di un soggetto. È meglio osservarli a distanza se si vuole avere un’idea di ciò che sta accadendo nella scena, e lo stesso vale per alcune opere d’arte generate dall’intelligenza artificiale. Di solito sono i dettagli più piccoli a far capire che si tratta di un’immagine generata dall’IA, e questo vale anche per le persone.

Guardate ad esempio il volto generato dall’IA qui sopra, tratto dal sito web This Person Does Not Exist. Notate qualcosa di strano? Potrebbe ingannare chiunque pensando che si tratti di una foto reale di una persona, tranne che per la parte mancante degli occhiali e per il modo bizzarro in cui sembra confondersi con la pelle.

Ecco alcuni altri marcatori che si possono incontrare nelle immagini di volti generate dall’intelligenza artificiale:

• Orecchini mancanti o non corrispondenti
• Uno sfondo sfocato che assomiglia più a una texture
• Qualsiasi testo sullo sfondo è indistinguibile
• Asimmetria nel viso (denti fuori centro, occhi di dimensioni diverse)
• Tratti della foto che sembrano essere stati dipinti
• Oggetti come gli occhiali si confondono con la pelle

Anche se si fa attenzione a questi marcatori dell’IA, a volte è incredibilmente difficile distinguerli e potrebbe essere necessario allenarsi per individuare i media falsi.

4. Utilizzare un rilevatore GAN

I generatori di immagini AI sono alimentati da reti avversarie generative, o GAN, come vengono spesso chiamate. Sapendo questo, gli ingegneri di Mayachitra hanno creato un rilevatore GAN nel 2021, sperando di risolvere il problema dell’identificazione delle immagini generate dall’IA. Una rete generativa avversaria (in inglese generative adversarial network o GAN) è una classe di metodi di apprendimento automatico, introdotta per la prima volta da Ian Goodfellow, in cui due reti neurali vengono addestrate in maniera competitiva nel contesto di un gioco a somma zero. Questo tipo di framework permette alla rete neurale di apprendere come generare nuovi dati aventi la stessa distribuzione dei dati usati in fase di addestramento.

Testando l’applicazione nel 2023, si riscontrano risultati contrastanti. Sembra che a volte l’applicazione sia in grado di identificare un’immagine generata da GAN, mentre altre volte si sbaglia completamente. Poiché i risultati sono inaffidabili, è meglio usare questo strumento in combinazione con altri metodi per verificare se un’immagine è generata dall’intelligenza artificiale. Un’altra ragione per menzionare il rilevatore GAN è che ulteriori ricerche probabilmente un giorno produrranno un’applicazione come questa che sia accurata, quindi vale la pena tenere d’occhio gli sviluppi.

I progressi sono lenti ma inesorabili e quando Microsoft ha rilasciato uno strumento per il rilevamento di deep fake, i segnali indicano che altre grandi aziende offriranno strumenti di facile utilizzo per il rilevamento di immagini generate dall’intelligenza artificiale.

Cosa aspettarsi in futuro

Senza dubbio, i generatori di IA miglioreranno nei prossimi anni, fino al punto in cui le immagini IA appariranno così convincenti che non saremo in grado di distinguerle semplicemente guardandole. A quel punto, non sarà più possibile fare affidamento sulle anomalie visive per distinguere un’immagine. Si spera che per allora non ce ne sarà bisogno, perché ci sarà un’applicazione o un sito web in grado di controllare per noi, in modo simile a come oggi siamo in grado di effettuare la ricerca inversa delle immagini. Per ora, chi utilizza l’intelligenza artificiale per creare immagini dovrebbe seguire il consiglio di OpenAI ed essere onesto riguardo al suo coinvolgimento. Non è un cattivo consiglio e basta un attimo per renderlo noto nel titolo di un post o nella sua descrizione. Per lo meno, non ingannare gli altri dicendo che hai creato un’opera d’arte quando in realtà è stata realizzata con DALL-E, Midjourney o uno qualsiasi degli altri generatori di testo-arte dell’IA.

Conclusioni

Le immagini generate dall’intelligenza artificiale migliorano di giorno in giorno, quindi per capire se un’opera d’arte è stata realizzata da un computer è necessario un po’ di lavoro da detective.

Controllate il titolo, la descrizione e i commenti per individuare eventuali riferimenti all’IA, quindi osservate più da vicino l’immagine alla ricerca di un watermark o di strane distorsioni visive. Si può sempre passare l’immagine attraverso il rilevatore GAN, ma bisogna diffidare dei risultati. In definitiva, la combinazione di questi metodi è il modo migliore per capire se si è di fronte a un’immagine generata dall’intelligenza artificiale.