Snap vuole aiutarti a identificare le immagini generate dall'intelligenza artificiale di Snapchat utilizzando le filigrane
Le filigrane appariranno sulle immagini create con gli strumenti AI di Snap ed esportate o salvate nel rullino fotografico.
Snap prevede di implementare una funzionalità di filigrana che ti aiuterà a distinguere meglio le immagini reali da quelle generate dagli strumenti di intelligenza artificiale. Martedì, la società di messaggistica mobile ha annunciato che Snapchat aggiungerà una filigrana alle immagini create utilizzando gli strumenti di intelligenza artificiale generativa di Snap.
La filigrana, raffigurata come un piccolo logo fantasma con la familiare icona scintillante, apparirà su tutte le immagini esportate, scaricate o salvate nel rullino fotografico. Chiunque riceva l'immagine vedrà il logo e l'icona, sia su Snapchat che all'esterno della piattaforma.
Negli ultimi anni, Snap ha lanciato una varietà di strumenti basati sull’intelligenza artificiale. Puoi utilizzare l'intelligenza artificiale per generare sfondi per ravvivare le tue conversazioni, trasformare il tuo viso con lenti stravaganti, posizionarti in scene diverse tramite Snapchat Dreams, chattare con il chatbot My AI e persino creare un animale domestico virtuale.
Il dilemma qui è che le persone possono essere facilmente indotte a credere che un’immagine generata dall’intelligenza artificiale sia reale. Certo, se condivido una foto scattata con un filtro che mi fa sembrare un alieno o un polipo, l'altra persona sa che non è reale (a meno che non creda negli alieni o nelle creature marine parlanti). In altri casi, gli strumenti di intelligenza artificiale possono far sembrare qualcosa del tutto legittimo.
Snap utilizza già alcuni trucchi per taggare determinati elementi generati dall'intelligenza artificiale. Icone, simboli ed etichette contestuali vengono visualizzati quando interagisci con una funzionalità Snapchat basata sull'intelligenza artificiale. Un'immagine di Dreams elaborata dall'intelligenza artificiale mostrerà una scheda contestuale con maggiori dettagli. Un'immagine che utilizza lo strumento Estendi per apparire più ingrandita aggiungerà l'icona scintillante per indicare che è stata generata dall'intelligenza artificiale.
Poiché l’intelligenza artificiale viene utilizzata e abusata per ragioni politiche, Snap ha anche osservato che i suoi dipendenti controllano le pubblicità politiche per qualsiasi uso fuorviante dei contenuti. In particolare, cercano segnali che indichino che l’intelligenza artificiale sia stata utilizzata per creare un’immagine ingannevole.
Nel suo comunicato stampa, Snap ha spiegato che l'azienda cerca anche di trovare e testare possibili difetti nei propri modelli di intelligenza artificiale. Snap utilizza il red-teaming, un processo in cui persone interne o esterne fingono di essere hacker e aggressori che cercano di sfruttare le vulnerabilità o superare le difese nei modelli di intelligenza artificiale generativa. Nel caso di Snap, i red teamer cercano risultati e contenuti IA potenzialmente distorti.
"Crediamo nell'enorme potenziale della tecnologia AI per migliorare la capacità della nostra comunità di esprimersi e connettersi tra loro", ha affermato Snap al suo rilascio, "e ci impegniamo a continuare a migliorare questi protocolli di sicurezza e trasparenza".