Il nuovo strumento di OpenAI è in grado di rilevare le proprie immagini AI DALL-E 3, ma c'è un problema
Lo strumento è riuscito a identificare il 98% delle immagini create dal suo generatore DALL-E 3, tuttavia, tale percentuale diminuiva se le immagini venivano modificate.
Le immagini generate dall'intelligenza artificiale possono essere utilizzate per indurti a credere che i contenuti falsi siano reali. Pertanto, OpenAI, sviluppatore di ChatGPT, ha sviluppato uno strumento che mira a prevedere se un'immagine è stata creata o meno utilizzando il proprio generatore di immagini DALL-E 3. La percentuale di successo del classificatore di rilevamento delle immagini, tuttavia, dipende da se e come l'immagine è stata modificata.
Martedì OpenAI ha dato al primo gruppo di tester l'accesso al suo nuovo strumento di rilevamento delle immagini. L'obiettivo è arruolare ricercatori indipendenti per valutare l'efficacia dello strumento, analizzarne l'utilità nel mondo reale, determinare come potrebbe essere utilizzato ed esaminare i fattori che determinano i contenuti generati dall'intelligenza artificiale. I ricercatori interessati possono richiedere l'accesso sulla pagina web del programma di accesso al classificatore di rilevamento DALL-E.
OpenAI ha testato lo strumento internamente e i risultati finora sono stati promettenti per certi versi e deludenti per altri. Analizzando le immagini generate da DALL-E 3, lo strumento le ha identificate correttamente nel 98% dei casi. Inoltre, durante l'analisi delle immagini che non sono state create da DALL-E 3, lo strumento le ha identificate erroneamente come realizzate da DALL-E 3 solo circa lo 0,5% delle volte.
Secondo OpenAI, anche piccole modifiche a un’immagine hanno avuto un impatto minimo. I tester interni sono stati in grado di comprimere, ritagliare e applicare modifiche alla saturazione a un'immagine creata da DALL-E 3 e lo strumento ha mostrato un tasso di successo inferiore ma comunque relativamente alto. Fin qui tutto bene.
Sfortunatamente, lo strumento non ha funzionato altrettanto bene con le immagini che hanno subito modifiche più estese. Nel suo post sul blog, OpenAI non ha rivelato il tasso di successo in questi casi, oltre a dire semplicemente che "altre modifiche, tuttavia, possono ridurre le prestazioni".
L'efficacia dello strumento diminuisce in condizioni come la modifica della tonalità di un'immagine, ha dichiarato al Wall Street Journal il ricercatore OpenAI Sandhini Agarwal (è richiesto l'abbonamento). OpenAI spera di risolvere questo tipo di problemi fornendo ai tester esterni l'accesso allo strumento, ha aggiunto Agarwal.
I test interni hanno anche messo alla prova lo strumento per analizzare le immagini create utilizzando modelli AI di altre società. In questi casi, lo strumento di OpenAI è stato in grado di identificare solo dal 5% al 10% delle immagini provenienti da questi modelli esterni. Anche apportare modifiche a tali immagini, come cambiare la tonalità, ha portato a un netto calo dell’efficacia, ha detto Agarwal al Journal. Questa è un'altra limitazione che OpenAI spera di correggere con ulteriori test.
Un vantaggio per lo strumento di rilevamento di OpenAI: non si basa sulle filigrane. Altre aziende utilizzano filigrane per indicare che un'immagine è generata dai propri strumenti di intelligenza artificiale, ma queste possono essere rimosse abbastanza facilmente, rendendole inefficaci.
Le immagini generate dall’intelligenza artificiale sono particolarmente problematiche in un anno elettorale. I partiti ostili, sia all’interno che all’esterno di un paese, possono facilmente utilizzare tali immagini per dipingere candidati o cause politiche in una luce negativa. Considerati i continui progressi nei generatori di immagini IA, capire cosa è reale e cosa è falso sta diventando sempre più una sfida.
Tenendo presente questa minaccia, OpenAI e Microsoft hanno lanciato un Fondo per la resilienza sociale da 2 milioni di dollari per espandere l’educazione e l’alfabetizzazione sull’intelligenza artificiale tra gli elettori e le comunità vulnerabili. Dato che 2 miliardi di persone in tutto il mondo hanno già votato o voteranno alle elezioni democratiche quest’anno, l’obiettivo è garantire che le persone possano navigare meglio nelle informazioni digitali e trovare risorse affidabili.
OpenAI ha anche affermato che entrerà a far parte del comitato direttivo di C2PA (Coalition for Content Provenance and Authenticity). Utilizzato come prova che il contenuto provenga da una fonte specifica, C2PA è uno standard per la certificazione dei contenuti digitali adottato da fornitori di software, produttori di fotocamere e piattaforme online. OpenAI afferma che i metadati C2PA sono inclusi in tutte le immagini create e modificate in DALL-E 3 e ChatGPT e presto appariranno nei video creati dal generatore video Sora di OpenAI.