L'intelligenza artificiale generativa sta potenziando le truffe (ecco come e cosa cercare)
Punti chiave
- I truffatori stanno diventando più creativi con prodotti falsi e voci fuori campo generate dall'intelligenza artificiale per attirare acquirenti ignari.
- I truffatori delle app di appuntamenti utilizzano chatbot AI per prendere di mira le vittime; le recensioni false diventano più facili con modelli linguistici di grandi dimensioni.
- Con il miglioramento della tecnologia dell’intelligenza artificiale, sarà più difficile distinguere i contenuti reali da quelli falsi; fai sempre una ricerca prima di acquistare online.
Il termine "truffa" si applica a qualsiasi cosa, da un sofisticato attacco mirato a un losco annuncio pre-roll sul tuo sito di streaming video preferito. La cattiva notizia è che progettare queste truffe sta diventando sempre più semplice.
La democratizzazione delle immagini false
Esiste una linea sottile ma distinta tra truffa e spam, ma i due regni si sovrappongono regolarmente. Ciò è particolarmente vero quando si tratta di pubblicità online, sia che tu stia navigando sul Web o scorrendo i social media. Gli inserzionisti non approvano ogni pubblicità che mostrano, ma si affidano invece ai rapporti degli utenti per eliminare i cattivi attori.
Se trascorri molto tempo online, probabilmente ogni giorno scorri innumerevoli pubblicità losche. Forse i più interessanti di questi sono i prodotti che non esistono e sono invece fabbricazioni realizzate a mano o utilizzando l’intelligenza artificiale generativa come DALL-E o Midjourney.
Attirare potenziali acquirenti con prodotti contraffatti non è una novità, ma una volta avresti avuto bisogno di visione, alcune abilità con Photoshop e un po' di tempo libero. Con l'arrivo dei generatori di testo in immagini, puoi dedicare tutto il tempo che desideri inserendo suggerimenti in un generatore di immagini finché non ottieni i risultati che stai cercando. Il cielo è il limite quando si tratta del tipo di prodotti che puoi realizzare.
Nell’aprile 2024 Snopes ha riferito che un gran numero di truffe “Cat’s Eye Dazzle” stavano colpendo i social media come una tempesta. La truffa prevedeva la creazione di fiori finti che assomigliassero a gatti, per attirare utenti sui social network come Facebook. Sono comparse inserzioni su eBay per i semi, mentre altri "venditori" hanno utilizzato portali di shopping self-hosted per incassare.
Per alcuni, il fatto che questi fiori siano falsi generati dall’intelligenza artificiale è immediatamente evidente. Altre truffe simili non sono così inverosimili. Il canale YouTube Atomic Shrimp ha creato un video che documenta il fenomeno, esplorando elenchi più ragionevoli di rose e girasoli blu "veri", nessuno dei quali esiste.
Fiori che sembrano gatti e piante dai colori impossibili sono solo due esempi di truffe che sembrano aver catturato centinaia se non migliaia di persone. Ci sono voluti alcuni secondi per generare queste immagini e alcuni altri per pubblicarle su Facebook.
Le voci AI conferiscono credibilità ai video
Probabilmente sei ben consapevole dell'aumento delle funzionalità di conversione del testo in voce, con piattaforme social come TikTok che semplificano la generazione di una voce fuori campo che suoni naturale ma sia anche facile da capire. Ormai, la voce della “signora TikTok” riguarda tanto il marchio di TikTok quanto uno strumento utile per i creatori di contenuti.
Ma le voci dell’intelligenza artificiale sono molto più di questo. ChatGPT può generare voci fuori campo se paghi per il livello premium e servizi come ElevenLabs hanno a disposizione livelli gratuiti. Ho visto canali YouTube più piccoli gestiti da creatori che non si sentono a proprio agio nel parlare davanti alla telecamera ricorrere a voci generate dall'intelligenza artificiale. Ciò può essere stridente, ma almeno è fondato su buone intenzioni.
Il vantaggio principale è che una voce fuori campo conferisce credibilità al tuo video. Qualche anno fa avresti dovuto dedicare tempo, impegno o finanziamenti per aggiungere una voce fuori campo al tuo video. Avresti bisogno di attrezzature e pratica o di un doppiatore assunto. Ora è semplice come scrivere una sceneggiatura di cui sei soddisfatto e scegliere la voce che desideri utilizzare.
Ciò rende ancora più credibili le pubblicità ingannevoli di programmi per arricchirsi rapidamente e prodotti in dropshipping. Se l’annuncio sembra un vero affare, probabilmente sei propenso a riporre più fiducia nel prodotto. Le persone che pubblicano questi annunci lo sanno, ecco perché c’è stata un’esplosione di questa pratica nell’ultimo anno.
Per ora, non è troppo difficile identificare la voce fuori campo generata dall’intelligenza artificiale. Le inflessioni e la pronuncia possono sembrare un po’ robotiche, e il ritmo naturale del linguaggio umano non è proprio quello. Allaccia le cinture, perché questi strumenti miglioreranno e alla fine non sarai in grado di notare la differenza.
I truffatori di app di incontri lanciano reti più ampie
Una cosa è essere adescati con prodotti contraffatti e una voce fuori campo robotica, ma che dire di una truffa che prende di mira personalmente te? Questo è esattamente ciò che sta accadendo su larga scala nello spazio degli appuntamenti online, grazie alla potenza di modelli linguistici di grandi dimensioni che possono conversare come persone reali (beh, abbastanza vicini).
Utilizzando chatbot basati sull'intelligenza artificiale, i truffatori possono creare un'ampia rete per intrappolare le loro vittime utilizzando software in grado di trattenere efficacemente una conversazione abbastanza a lungo da attirare l'attenzione di qualcuno. Esistono alcuni modi in cui viene utilizzato e tutti sembrano invasivi.
Alcuni utilizzano i chatbot per inviare messaggi a vaste fasce di persone e poi ricontattare nella speranza di incontrare qualcuno che gli piace veramente. All’inizio del 2024, ci sono state innumerevoli segnalazioni di un uomo che ha incontrato sua moglie utilizzando questa tecnica. Che tu ci creda o no, esiste un numero enorme di app e servizi mobili che promettono di chattare con potenziali partner per te (a pagamento, ovviamente).
Le cose prendono una piega decisamente più sinistra quando questi strumenti vengono utilizzati per trovare obiettivi per truffe finanziarie. I truffatori online sfruttano da tempo il desiderio umano fondamentale di compagnia nel tentativo di estrarre denaro dai loro marchi. Ora possono mettere i chatbot al lavoro per loro, subentrando quando lo ritengono necessario.
Abbinalo a un generatore di immagini AI che ti dà accesso a tutti i bei volti originali che desideri, e i truffatori non avranno più nemmeno bisogno di rubare le immagini del profilo degli appuntamenti di qualcun altro.
Il video AI è all'orizzonte
Al momento in cui scrivo non è ancora disponibile una conversione testo-video convincente, ma con strumenti come OpenAI SORA all'orizzonte è destinato a diventare una forza da non sottovalutare. Con solo un suggerimento, lo strumento di OpenAI può generare immagini in movimento dall'aspetto realistico (anche se se guardi attentamente puoi individuare i difetti).
Se non altro, i video generati dall’intelligenza artificiale non faranno altro che esacerbare i problemi posti da altri contenuti generati dall’intelligenza artificiale. Attraverso l'uso di un'intelligenza artificiale in costante miglioramento, non è difficile immaginare un futuro in cui è possibile generare immagini di prodotti falsi, video del prodotto utilizzato in luoghi rilevanti da persone "reali" e una voce fuori campo per il video che è possibile utilizzare per pubblicizzarlo.
Se ti senti particolarmente intraprendente, puoi utilizzare un modello linguistico ampio per aumentare la reputazione del tuo prodotto…
L’intelligenza artificiale può anche falsificare le recensioni
Le recensioni false non sono una novità. Li abbiamo visti tutti e molti di noi ci sono caduti (che lo sappiamo o no). Ma fino a pochi anni fa, le recensioni false richiedevano un certo sforzo. Con l’avvento di modelli linguistici di grandi dimensioni, le recensioni false possono letteralmente scriversi su larga scala.
L’uso improprio di grandi modelli linguistici per generare recensioni e promuovere prodotti o attività commerciali è una cosa, ma la tecnologia funziona in entrambi i sensi. Che ne dici di utilizzare questa tecnologia per creare recensioni che critichino ingiustamente un prodotto rivale? Generare un massetto negativo non è mai stato così facile, anche se devi copiarlo e incollarlo tu stesso.
Abbina le recensioni generate dall'intelligenza artificiale alle truffe più tradizionali sullo spazzolamento e avrai la credibilità di un'etichetta di "acquisto verificato". In definitiva spetta ai titolari delle piattaforme combattere questa nuova ondata di contenuti online fuorvianti.
Le cose possono solo andare meglio (peggio)
Questi strumenti miglioreranno nel tempo, rendendo più difficile distinguere il reale dal fantastico. Dovrai essere saggio con la tecnologia se vuoi stare al passo con i truffatori. Se capisci cosa è possibile, sei meglio armato per capire cosa è reale e cosa non lo è.
Facebook è particolarmente ricco di immagini generate dall'intelligenza artificiale, quindi capire come individuare i falsi generati dall'intelligenza artificiale è un'abilità preziosa. Dovresti sempre diffidare delle pubblicità online, sia che le trovi sui tuoi siti web preferiti o su un social network.
Fai sempre le tue ricerche prima di acquistare qualcosa, che si tratti di un pezzo di tecnologia o di un pacchetto di semi che hai visto su Facebook. Ironicamente, potresti anche chiedere al tuo chatbot preferito da dove provengono le sue affermazioni.