I 5 maggiori rischi dell’IA generativa secondo un esperto
L’intelligenza artificiale semplifica le nostre vite in molti modi diversi. Tuttavia, questi vantaggi possono comportare dei costi.
Le IA generative, come ChatGPT, hanno rivoluzionato il modo in cui interagiamo e vediamo l'IA. Attività come scrivere, programmare e fare domanda per un lavoro sono diventate molto più semplici e veloci. Con tutti gli aspetti positivi, tuttavia, ci sono alcuni rischi piuttosto seri.
Una delle principali preoccupazioni relative all’intelligenza artificiale è la fiducia e la sicurezza, che ha persino indotto alcuni paesi a vietare completamente ChatGPT nel suo insieme o a riconsiderare la politica sull’intelligenza artificiale per proteggere gli utenti dai danni.
Inoltre: Questa nuova tecnologia potrebbe spazzare via GPT-4 e tutto ciò che piace
Secondo l’analista di Gartner Avivah Litan, alcuni dei maggiori rischi dell’intelligenza artificiale generativa riguardano la fiducia e la sicurezza e includono allucinazioni, deepfake, privacy dei dati, problemi di copyright e problemi di sicurezza informatica.
1. Allucinazioni
Le allucinazioni si riferiscono agli errori che i modelli di intelligenza artificiale sono inclini a commettere perché, sebbene siano avanzati, non sono ancora umani e si basano sulla formazione e sui dati per fornire risposte.
Se hai utilizzato un chatbot basato sull'intelligenza artificiale, probabilmente hai avuto queste allucinazioni a causa di un'incomprensione del tuo messaggio o di una risposta palesemente sbagliata alla tua domanda.
Litan afferma che i dati di addestramento possono portare a risposte parziali o di fatto errate, il che può rappresentare un problema serio quando le persone si affidano a questi robot per ottenere informazioni.
"I dati di addestramento possono portare a risposte distorte, fuori base o sbagliate, ma queste possono essere difficili da individuare, soprattutto perché le soluzioni sono sempre più credibili e affidabili", afferma Litan.
2. Deepfake
Un deepfake utilizza l'intelligenza artificiale generativa per creare video, foto e registrazioni vocali falsi ma che assumono l'immagine e la somiglianza di un altro individuo.
Esempi perfetti sono la foto virale generata dall'intelligenza artificiale di Papa Francesco in piumino o la canzone Drake and the Weeknd generata dall'intelligenza artificiale, che ha raccolto centinaia di migliaia di stream.
"Queste immagini, video e registrazioni vocali false sono state utilizzate per attaccare celebrità e politici, per creare e diffondere informazioni fuorvianti e persino per creare account falsi o prendere il controllo e violare account legittimi esistenti", afferma Litan.
Come le allucinazioni, i deepfake possono contribuire alla massiccia diffusione di contenuti falsi, portando alla diffusione della disinformazione, che rappresenta un serio problema sociale.
3. Riservatezza dei dati
Anche la privacy è una delle principali preoccupazioni dell’intelligenza artificiale generativa poiché i dati degli utenti vengono spesso archiviati per l’addestramento dei modelli. Questa preoccupazione è stata il fattore generale che ha spinto l'Italia a vietare ChatGPT, sostenendo che OpenAI non era legalmente autorizzata a raccogliere dati degli utenti.
"I dipendenti possono facilmente esporre dati aziendali sensibili e proprietari quando interagiscono con soluzioni chatbot di intelligenza artificiale generativa", afferma Litan. "Queste applicazioni possono archiviare indefinitamente le informazioni catturate attraverso gli input dell'utente e persino utilizzare le informazioni per addestrare altri modelli, compromettendo ulteriormente la riservatezza."
Litan sottolinea che, oltre a compromettere la riservatezza dell'utente, le informazioni archiviate comportano anche il rischio di "cadere nelle mani sbagliate" in caso di violazione della sicurezza.
4. Sicurezza informatica
Anche le capacità avanzate dei modelli di intelligenza artificiale generativa, come la codifica, possono cadere nelle mani sbagliate, causando problemi di sicurezza informatica.
"Oltre all'ingegneria sociale più avanzata e alle minacce di phishing, gli aggressori potrebbero utilizzare questi strumenti per generare più facilmente codice dannoso", afferma Litan.
Litan afferma che anche se i fornitori che offrono soluzioni di intelligenza artificiale generativa in genere assicurano ai clienti che i loro modelli sono addestrati a rifiutare richieste di sicurezza informatica dannose, questi fornitori non forniscono agli utenti finali la possibilità di verificare tutte le misure di sicurezza che sono state implementate.
5. Problemi di diritto d'autore
Il copyright è una grande preoccupazione perché i modelli di intelligenza artificiale generativa vengono addestrati su enormi quantità di dati Internet utilizzati per generare un output.
Questo processo di formazione fa sì che le opere che non sono state esplicitamente condivise dalla fonte originale possano poi essere utilizzate per generare nuovi contenuti.
Il copyright è una questione particolarmente spinosa per l'arte generata dall'intelligenza artificiale in qualsiasi forma, comprese foto e musica.
Per creare un'immagine da un prompt, gli strumenti di generazione dell'intelligenza artificiale, come DALL-E, faranno riferimento all'ampio database di foto su cui sono stati addestrati. Il risultato di questo processo è che il prodotto finale potrebbe includere aspetti del lavoro o dello stile di un artista che non gli vengono attribuiti.
Poiché i lavori esatti su cui vengono addestrati i modelli di intelligenza artificiale generativa non vengono divulgati esplicitamente, è difficile mitigare questi problemi di copyright.
Qual è il prossimo passo?
Nonostante i numerosi rischi associati all’intelligenza artificiale generativa, Litan non ritiene che le organizzazioni debbano smettere di esplorare questa tecnologia. Dovrebbero invece creare una strategia a livello aziendale che miri alla gestione della fiducia, del rischio e della sicurezza dell’IA.
"Gli sviluppatori di intelligenza artificiale devono collaborare urgentemente con i politici, comprese le nuove autorità di regolamentazione che potrebbero emergere, per stabilire politiche e pratiche per la supervisione dell'intelligenza artificiale generativa e la gestione del rischio", afferma Litan.