Intelligenza artificiale, vera ansia: perché non possiamo smettere di preoccuparci e amare l'intelligenza artificiale
L’intelligenza artificiale minaccia davvero la sicurezza e il benessere di vaste fasce della popolazione mondiale? Con gli appelli all’azione sempre più urgenti, le Nazioni Unite lanciano ora l’allarme.
Un'intelligenza artificiale ha scritto questo pezzo?
Domande come questa furono una battuta amichevole quando l'intelligenza artificiale generativa (gen AI) iniziò la sua incursione nel discorso mainstream. Due anni dopo, mentre le persone in tutto il mondo utilizzano l’intelligenza artificiale per tutti i tipi di attività, altri sollevano importanti domande sull’impatto a lungo termine della tecnologia emergente.
Il mese scorso, i fan della popolare band sudcoreana Seventeen hanno contestato un articolo della BBC che lasciava erroneamente intendere che il gruppo avesse utilizzato l'intelligenza artificiale nella scrittura delle canzoni. Woozi, membro della band e principale cervello creativo dietro la maggior parte della musica della band, ha detto ai giornalisti di aver sperimentato l'intelligenza artificiale per comprendere lo sviluppo della tecnologia e identificarne i pro e i contro.
La BBC ha frainteso la sperimentazione per suggerire che Seventeen avesse utilizzato l'intelligenza artificiale nel suo ultimo album. Non sorprende che l'errore abbia causato scalpore, con i fan che si sono offesi particolarmente perché i Seventeen sono stati sostenuti come una band "autoprodotta" sin dal suo debutto musicale. I suoi 13 membri sono coinvolti nella scrittura di canzoni, nella produzione musicale e nella coreografia di danza del gruppo.
I loro fan vedevano il tag AI come un modo per screditare le menti creative del gruppo. "[Seventeen] scrivono, producono, coreografano! Hanno talento... e sicuramente non hanno bisogno dell'intelligenza artificiale o di qualsiasi altra cosa," ha detto un fan su X, mentre un altro ha descritto l'etichetta AI come un insulto agli sforzi e al successo del gruppo.
L'episodio ha spinto Woozi a pubblicare sulle sue storie su Instagram: "Tutta la musica di Seventeen è scritta e composta da creatori umani".
Donne, pace e sicurezza
Naturalmente, l’intelligenza artificiale come un affronto percepito alla creatività umana non è l’unica preoccupazione riguardo all’impatto sempre più accelerato di questa tecnologia sul nostro mondo - e probabilmente non è la preoccupazione più grande. I problemi sistemici che riguardano l'intelligenza artificiale potrebbero, potenzialmente, minacciare la sicurezza e il benessere di vaste fasce della popolazione mondiale.
Nello specifico, secondo una recente ricerca di UN Women e dell'UN University Institute Macau (UNU Macau), man mano che la tecnologia viene adottata, l'intelligenza artificiale può mettere a rischio la sicurezza delle donne. Lo studio ha rilevato che i pregiudizi di genere nei sistemi di intelligenza artificiale più diffusi pongono ostacoli significativi all’uso positivo dell’intelligenza artificiale per sostenere la pace e la sicurezza in regioni come il sud-est asiatico.
Lo studio del maggio 2024 ha analizzato i collegamenti tra l'intelligenza artificiale; sicurezza digitale; e donne, pace e questioni di sicurezza nel sud-est asiatico. Si prevede che l’intelligenza artificiale aumenterà il prodotto interno lordo della regione di 1 trilione di dollari nel 2030.
"Sebbene l'utilizzo dell'intelligenza artificiale per scopi di pace possa avere molteplici vantaggi, come migliorare l'inclusione e l'efficacia della prevenzione dei conflitti e monitorare le prove delle violazioni dei diritti umani, viene utilizzata in modo diseguale tra i sessi e i pregiudizi di genere pervasivi rendono le donne meno propense a trarre beneficio dall'applicazione di queste tecnologie", afferma il rapporto.
Secondo il rapporto, dovrebbero essere compiuti sforzi per mitigare i rischi derivanti dall’utilizzo dei sistemi di intelligenza artificiale, in particolare sui social media e in strumenti come chatbot e applicazioni mobili. Dovrebbero essere compiuti sforzi anche per guidare lo sviluppo di strumenti di intelligenza artificiale per sostenere una “pace attenta al genere”.
La ricerca ha rilevato che gli strumenti che consentono al pubblico di creare testi, immagini e video sono stati resi ampiamente disponibili senza considerare le loro implicazioni per il genere o la sicurezza nazionale o internazionale.
"La generazione di intelligenza artificiale ha beneficiato della pubblicazione di modelli linguistici di grandi dimensioni come ChatGPT, che consentono agli utenti di richiedere testo che può essere calibrato per tono, valori e formato", ha affermato. "La generazione di intelligenza artificiale comporta il rischio di accelerare la disinformazione facilitando la rapida creazione di contenuti apparentemente autentici su larga scala. Inoltre, rende molto facile creare convincenti robot di social media che condividono intenzionalmente contenuti polarizzanti, odiosi e misogini."
La ricerca ha citato uno studio del 2023 in cui i ricercatori dell'Association for Computational Linguistics hanno scoperto che quando ChatGPT veniva fornito con 100 false narrazioni, faceva false affermazioni nell'80% delle volte.
Il rapporto delle Nazioni Unite ha evidenziato come i ricercatori di tutto il mondo abbiano messo in guardia sui rischi della pornografia deepfake e dei contenuti estremisti per diversi anni. Tuttavia, i recenti sviluppi nel campo dell’intelligenza artificiale hanno aggravato la gravità del problema.
"È stato dimostrato che i sistemi di intelligenza artificiale che generano immagini producono facilmente contenuti misogini, inclusa la creazione di corpi sessualizzati per donne basati su immagini del profilo o immagini di persone che svolgono determinate attività basate su stereotipi sessisti e razzisti", osserva il rapporto UN Women.
"Queste tecnologie hanno consentito la creazione semplice e convincente di video deepfake, in cui è possibile creare falsi video di chiunque basandosi solo su riferimenti fotografici. Ciò ha causato notevoli preoccupazioni per le donne, che potrebbero essere mostrate, ad esempio, in falsi video sessualizzati contro il loro sesso. consenso, incorrendo in ripercussioni permanenti sulla reputazione e sulla sicurezza."
Quando le paure del mondo reale si spostano online
Uno studio del gennaio 2024 condotto dallo specialista in sicurezza informatica CyberArk ha inoltre suggerito che le preoccupazioni sull’integrità delle identità digitali sono in aumento. L’indagine condotta su 2.000 lavoratori nel Regno Unito ha rivelato che l’81% dei dipendenti è preoccupato che la propria immagine visiva venga rubata o utilizzata per condurre attacchi informatici, mentre il 46% è preoccupato che la propria immagine venga utilizzata nei deepfake.
Nello specifico, l’81% delle donne è preoccupato che i criminali informatici utilizzino l’intelligenza artificiale per rubare dati riservati tramite truffe digitali, una percentuale superiore al 74% degli uomini che condividono preoccupazioni simili. Un numero maggiore di donne (46%) si preoccupa anche che l’intelligenza artificiale venga utilizzata per creare deepfake, rispetto al 38% degli uomini che la pensano allo stesso modo.
Il sondaggio di CyberArk ha rilevato che il 50% delle donne è preoccupato che l'intelligenza artificiale venga utilizzata per impersonificarle, una percentuale superiore al 40% degli uomini che hanno preoccupazioni simili. Inoltre, il 59% delle donne è preoccupato che l’intelligenza artificiale venga utilizzata per rubare le loro informazioni personali, rispetto al 50% degli uomini che la pensano allo stesso modo.
Ho incontrato il COO di CyberArk Eduarda Camacho e la nostra discussione ha toccato il motivo per cui le donne nutrono più ansia nei confronti dell'intelligenza artificiale. Le donne non dovrebbero sentirsi più sicure sulle piattaforme digitali perché non devono esporre le loro caratteristiche, come il genere?
Camacho ha suggerito che le donne potrebbero essere più consapevoli dei rischi online e che queste preoccupazioni potrebbero essere una conseguenza delle vulnerabilità che alcune donne avvertono offline. Ha affermato che le donne sono in genere più prese di mira ed esposte agli abusi online e alla disinformazione sulle piattaforme di social media.
L'ansia non è nemmeno infondata. Camacho ha affermato che l’intelligenza artificiale può avere un impatto significativo sulle identità online. CyberArk è specializzato nella gestione delle identità ed è particolarmente preoccupato per questo problema.
Nello specifico, i deepfake possono essere difficili da rilevare con l’avanzare della tecnologia. Sebbene il 70% delle organizzazioni sia sicuro che i propri dipendenti siano in grado di identificare i deepfake del proprio team di leadership, Camacho ha affermato che questa cifra è probabilmente una sovrastima, facendo riferimento alle prove del 2024 Threat Landscape Report di CyberArk.
Uno studio separato del luglio 2024 condotto dal fornitore di gestione dell'identità digitale Jumio ha rilevato che il 46% degli intervistati ritiene di poter identificare un deepfake di un politico. I singaporiani sono i più sicuri, al 60%, seguiti dai messicani al 51%, dagli Stati Uniti al 37% e dal Regno Unito al 33%.
Consentiti di dilagare e scatenarsi sulle piattaforme dei social media, i contenuti fraudolenti generati dall’intelligenza artificiale possono portare a disordini sociali e avere un impatto dannoso sulle società, compresi i gruppi vulnerabili. Questi contenuti possono diffondersi rapidamente se condivisi da personalità con una significativa presenza online.
Una ricerca della scorsa settimana ha rivelato che le affermazioni di Elon Musk sulle elezioni americane - affermazioni contrassegnate come false o fuorvianti - sono state visualizzate quasi 1,2 miliardi di volte sulla sua piattaforma di social media X, secondo una ricerca del Center for Countering Digital Hate (CCDH). ). Dal 1 gennaio al 31 luglio, il CCDH ha analizzato i post di Musk sulle elezioni e ha identificato 50 post che i fact-checker avevano sfatato.
Il post di Musks su un clip audio generato dall'intelligenza artificiale con la candidata alla presidenza degli Stati Uniti Kamala Harris ha registrato almeno 133 milioni di visualizzazioni. Il post non è stato contrassegnato con un'etichetta di avvertimento, violando la politica della piattaforma secondo cui gli utenti dovrebbero "non condividere media sintetici, manipolati o fuori contesto che potrebbero ingannare o confondere le persone e causare danni", ha affermato CCDH.
"La mancanza di note della community su questi post mostra che l'attività [di Musk] non riesce miseramente a contenere il tipo di incitamento potenziato tramite algoritmi che tutti sappiamo può portare alla violenza nel mondo reale, come abbiamo sperimentato il 6 gennaio 2021", ha affermato CCDH L'amministratore delegato Imran Ahmed. "È ora che la Sezione 230 del Communications Decency Act del 1986 [degli Stati Uniti] venga modificata per consentire alle società di social media di essere ritenute responsabili allo stesso modo di qualsiasi giornale, emittente o azienda in tutta l'America."
Altrettanto sconcertante è il modo in cui i giganti della tecnologia stanno lottando per ottenere un potere e un’influenza ancora maggiori.
"Guardare cosa sta succedendo nella Silicon Valley è pazzesco", ha detto l'uomo d'affari e investitore americano Mark Cuban in un'intervista al Daily Show. "[Stanno] cercando di mettersi nella posizione di avere il massimo controllo possibile. Non è una buona cosa."
"Hanno perso la connessione con il mondo reale", ha detto Cuban.
Ha anche affermato che la portata online di X offre a Musk la capacità di connettersi ai leader politici a livello globale, insieme a un algoritmo che dipende da ciò che piace a Musk.
Quando gli è stato chiesto dove pensava che stesse andando l’intelligenza artificiale, Cuban ha sottolineato la rapida evoluzione della tecnologia e ha affermato che non è chiaro in che modo i grandi modelli linguistici guideranno gli sviluppi futuri. Anche se ritiene che l’impatto sarà generalmente positivo, ha affermato che ci sono molte incertezze.
Agisci prima che la presa dell'intelligenza artificiale si rafforzi oltre ogni controllo
Quindi, come dovremmo procedere? In primo luogo, dovremmo superare l’idea sbagliata secondo cui l’intelligenza artificiale è la soluzione alle sfide della vita. Le aziende stanno appena iniziando ad andare oltre questa iperbole e stanno lavorando per determinare il valore reale dell'IA.
Inoltre, dovremmo apprezzare il fatto che, nonostante il desiderio di assunzioni basate sull’intelligenza artificiale e di aumenti di produttività, un certo livello di creatività umana è ancora valutato al di sopra dell’intelligenza artificiale - come Seventeen e i fan della band hanno ampiamente chiarito.
Per alcuni, tuttavia, l’intelligenza artificiale viene accolta come un modo per superare le barriere linguistiche. La boy band irlandese Westlife, ad esempio, ha pubblicato il suo primo titolo in mandarino, che è stato eseguito dai loro rappresentanti vocali generati dall'intelligenza artificiale e soprannominato AI Westlife. La canzone è stata creata in collaborazione con Tencent Music Entertainment Group.
La cosa più importante, come sollecita il rapporto delle Nazioni Unite, è che i problemi sistemici legati all’intelligenza artificiale debbano essere affrontati - e queste preoccupazioni non sono nuove. Sia le organizzazioni che gli individui hanno ripetutamente evidenziato queste sfide, insieme a molteplici richieste per la messa in atto dei necessari guardrail. I governi avranno bisogno di normative e controlli adeguati per tenere a freno i delinquenti.
E devono farlo rapidamente prima che la presa dell’intelligenza artificiale si rafforzi oltre ogni controllo e tutta la società, non solo le donne, si trovi ad affrontare ripercussioni sulla sicurezza per tutta la vita.