Non tutte le immagini "realizzate con l'intelligenza artificiale" sono realizzate dall'intelligenza artificiale
Collegamenti rapidi
- I media basati sull'intelligenza artificiale sono così reali che abbiamo bisogno di aiuto per distinguerli dalla realtà
- L'etichettatura di Meta unisce i prodotti generati dall'intelligenza artificiale e quelli assistiti dall'intelligenza artificiale
- Esiste una differenza tra generato dall'intelligenza artificiale e assistito dall'intelligenza artificiale?
- L’etichettatura AI di Meta non è infallibile
- Nuovi standard per la fotografia sono all’orizzonte
Meta ha recentemente lanciato un nuovo tag “Made with AI” per aiutare gli utenti a distinguere tra contenuti reali e generati dall’intelligenza artificiale. Il problema è che il tag appare indiscriminatamente sulle immagini create interamente con l’intelligenza artificiale e su quelle semplicemente modificate con l’intelligenza artificiale. Ciò ha acceso un dibattito su quanto l’intelligenza artificiale sia sufficiente per contaminare un’immagine e ha introdotto ancora più confusione su cosa è reale e cosa non lo è.
I media basati sull'intelligenza artificiale sono così reali che abbiamo bisogno di aiuto per distinguerli dalla realtà
Ricordi quella foto del Papa con l'elegante piumino? A prima vista sembrava perfettamente normale e tutti pensavamo di aver dormito sul malloppo del papa. Tuttavia, è stato successivamente rivelato che la foto era stata generata dall'intelligenza artificiale.
Analizzandola una seconda volta con un pettine a denti fini, puoi dire che l'immagine è generata dall'intelligenza artificiale, ma è proprio questo il problema: nessuno naviga sul web con così tanta intensità.
Con la proliferazione dei servizi di generazione di immagini basati sull’intelligenza artificiale, ci sono migliaia, se non milioni, di immagini generate dall’intelligenza artificiale che circolano sul web. Facebook è già inondato da tonnellate di immagini generate dall’intelligenza artificiale e altre piattaforme di social media non sono da meno.
La maggior parte delle persone non si accorgerà che queste immagini sono generate dall’intelligenza artificiale e le considererà una rappresentazione accurata della realtà. Con la stagione elettorale alle porte e in un’epoca in cui la disinformazione e le bugie sono così diffuse, la posta in gioco non è mai stata così alta per riuscire a distinguere la fabbricazione dalla realtà.
Con questo in mente, Meta ha iniziato a etichettare le immagini generate dall’intelligenza artificiale caricate su Facebook, Instagram e Threads per aiutare le persone a distinguerle facilmente. Tuttavia, non tutti sono contenti del modo in cui hanno eseguito questo piano.
L'etichettatura di Meta unisce i prodotti generati dall'intelligenza artificiale e quelli assistiti dall'intelligenza artificiale
Il clamore attorno all’etichettatura AI di Meta deriva dal fatto che l’azienda non discrimina tra l’utilizzo dell’intelligenza artificiale per generare immagini fotorealistiche e l’utilizzo di un processo di intelligenza artificiale per modificare una foto. Per quanto riguarda Meta, entrambi rientrano nella stessa categoria.
Molti fotografi offesi si sono rivolti ai social media per condividere esempi di ciò che è accaduto loro. L'ex fotografo della Casa Bianca Pete Souza si è lamentato di non essere riuscito a deselezionare la casella "Made with AI" quando ha pubblicato una foto scattata a una partita di basket.
Un altro fotografo, Peter Yan, ha etichettato la sua immagine del Monte Fuji come "Made With AI" perché ha utilizzato uno strumento di intelligenza artificiale generativa per rimuovere un cestino della spazzatura nella foto.
Esiste una differenza tra generato dall'intelligenza artificiale e assistito dall'intelligenza artificiale?
Il punto cruciale del dibattito attorno al tag AI di Meta è se sia giusto etichettare le immagini come “Made With AI” anche quando sono state modificate solo minimamente con strumenti di intelligenza artificiale generativa.
Comprensibilmente, i fotografi che utilizzano strumenti di intelligenza artificiale generativa non vogliono che l'etichetta "Made With AI" sia vicina al loro lavoro. Il termine è caricato, suggerendo che la scena è inventata e implicando che stiano traendo profitto dal lavoro di altri, dato che molti programmi di intelligenza artificiale sono addestrati su opere protette da copyright senza consenso. Inoltre, avere il proprio lavoro etichettato come “Made With AI” mina lo sforzo e l’abilità coinvolti nella creazione della foto finale.
Dall’altro lato della barricata, coloro che sono a favore dell’etichettatura di Meta sostengono che l’utilizzo di qualsiasi strumento di intelligenza artificiale generativa, non importa quanto piccolo, introduce l’intelligenza artificiale nel mix. Pertanto, la foto non è più una rappresentazione accurata della scena catturata e dovrebbe tecnicamente rientrare nella categoria “Made With AI”.
Gli anti-etichettatori ribattono che le persone modificano le foto da sempre: c'è davvero differenza tra rimuovere lo sfondo di una foto con l'intelligenza artificiale o usare la bacchetta magica? Se Meta si preoccupa così tanto di ritrarre la realtà esattamente così com'è, allora non dovrebbe esserci un tag che identifichi quando una foto è stata alterata in qualche modo?
Continuano sottolineando che gli strumenti di intelligenza artificiale sono ora integrati in qualsiasi cosa, dallo "Space Zoom" del Galaxy S20 Ultra alle app di fotoritocco standard del settore come il riempimento generativo in Adobe Photoshop. Etichettando le immagini con piccole regolazioni dell'intelligenza artificiale come "Made With" AI", Meta crea uno "scenario del ragazzo che gridava al lupo" in cui immagini innocenti vengono etichettate come "Made With AI", facendo sì che le persone perdano fiducia nell'etichetta e rendendole più suscettibili ai reali contenuti disinformanti dell'IA.
Altre persone cercano di trovare una via di mezzo, suggerendo un tag separato “assistito dall’intelligenza artificiale” per le immagini che sono state modificate solo minimamente con l’intelligenza artificiale. Tuttavia, quell’idea incontra immediatamente delle difficoltà. Quante modifiche all'intelligenza artificiale dovrebbero essere consentite affinché una foto venga considerata "Made with AI?" E un sistema del genere servirebbe a qualcosa? Un attore malintenzionato non potrebbe semplicemente alterare una piccola parte di un'immagine con l'intelligenza artificiale per creare una scena fuorviante?
L’etichettatura AI di Meta non è infallibile
L'intero dibattito "Made With AI" potrebbe essere comunque un punto controverso poiché chiunque lo desideri potrebbe semplicemente evitare del tutto il tag. Meta si basa sulle informazioni contenute nei metadati delle foto per identificare i processi di intelligenza artificiale ed è banalmente facile rimuoverli. PetaPixel ha scoperto nei suoi test che semplicemente copiare e incollare l'immagine in un documento vuoto era sufficiente per aggirare il tag e anche pubblicare uno screenshot dell'immagine evita il tag.
Anche l’affidabilità dell’etichettatura è sospetta, poiché sulle piattaforme di Meta ci sono diverse immagini ovviamente generate dall’intelligenza artificiale senza il tag. Al contrario, altre immagini senza intelligenza artificiale ne vengono colpite.
Nuovi standard per la fotografia sono all’orizzonte
Nonostante l’attuale situazione caotica, c’è speranza all’orizzonte. Molti dei grandi lettori multimediali digitali stanno ripensando foto e video concentrandosi maggiormente sulla loro provenienza e autenticazione. Ho il sospetto che il settore subirà un massiccio cambiamento nei prossimi anni. Esistono già nuove iniziative per l’autenticazione dei media digitali, la più grande delle quali è la Coalition for Content Provenance and Authenticity, o C2PA in breve.
Il C2PA è un progetto congiunto tra grandi aziende tecnologiche come Adobe, Arm, Intel, Microsoft e Google, che mira a fornire contesto e storia per tutti i media digitali. L'idea alla base è che dal momento dello scatto viene creata una registrazione digitale che viene legata a tutti i media, specificando dove è stata scattata, con quale fotocamera e da chi. Anche ogni successiva modifica apportata al soggetto viene aggiunta a questo record e tutte queste informazioni vengono quindi fornite allo spettatore finale, garantendo che sia sempre a conoscenza della provenienza della foto.
Il C2PA è ancora nelle sue fasi iniziali, ma vengono già prodotte nuove fotocamere che supportano lo standard e sospetto che non passerà molto tempo prima che diventi la norma.
È sempre più difficile che mai distinguere ciò che è reale da ciò che è generato dall’intelligenza artificiale, e la nuova etichetta di Meta certamente non aiuta le cose. Iniziative come la C2PA sono una luce alla fine di un tunnel buio, ma sono ancora lontane dall’adozione generale.
Spetta a te valutare i media che consumi con occhio critico per assicurarti che ciò che vedi sia autentico. Metti in discussione la fonte, cerca ulteriori informazioni e ricorda che non tutte le immagini "Made With AI" sono realizzate dall'intelligenza artificiale.