La FTC indaga su OpenAI, produttore di ChatGPT, per possibili danni agli utenti. Ecco cosa devi sapere
L'agenzia governativa chiede a OpenAI di fornire dettagli su come i dati degli utenti vengono raccolti, utilizzati e protetti.
ChatGPT di OpenAI è diventato incredibilmente popolare sin dal suo lancio, rendendola l'applicazione in più rapida crescita di tutti i tempi. Con così tanti utenti, sono sorte domande su come i dati degli utenti vengono raccolti, utilizzati e protetti - e ora la Federal Trade Commission (FTC) vuole risposte.
In un documento FTC di 20 pagine ottenuto dal Washington Post, l'agenzia governativa chiede a OpenAI di presentare la documentazione su quasi tutti gli aspetti del suo ampio modello linguistico, con particolare attenzione alla gestione dei dati utente di OpenAI e all'output di false dichiarazioni di ChatGPT.
Secondo il documento, la FTC sta indagando se OpenAI sia impegnata in "pratiche ingiuste o ingannevoli in materia di privacy o sicurezza dei dati" o se sia impegnata in "pratiche ingannevoli" che potrebbero rischiare di danneggiare i consumatori.
La FTC sta cercando spiegazioni dettagliate su come OpenAI ottiene i suoi dati, su come tali dati vengono utilizzati per addestrare il modello e sulle procedure in atto per valutare il rischio e la sicurezza.
Inoltre, la FTC chiede anche a OpenAI di rivelare quali misure ha adottato per mitigare il rischio che LLM generi dichiarazioni "false, fuorvianti o denigratorie" su individui reali.
Queste indagini seguono diversi incidenti con ChatGPT che hanno causato preoccupazioni e persino provocato azioni legali contro OpenAI.
Ad esempio, il 20 marzo si è verificata una violazione dei dati che ha esposto le conversazioni degli utenti di ChatGPT e le informazioni sui pagamenti degli abbonati. La violazione ha evidenziato i potenziali rischi derivanti dall’utilizzo di strumenti di intelligenza artificiale e ha persino portato l’Italia a vietare ChatGPT nel suo complesso, sebbene il divieto sia stato revocato.
Altri casi includono due azioni legali collettive intentate contro OpenAI. Una delle cause legali contro OpenAI sostiene che la società di intelligenza artificiale ha utilizzato "dati rubati" dai clienti per addestrare e sviluppare i suoi prodotti.
L'altra causa riguarda le allucinazioni di ChatGPT e la sua capacità di produrre false dichiarazioni sulle persone. Nel primo caso di diffamazione di OpenAI, un conduttore radiofonico della Georgia ha citato in giudizio OpenAI dopo aver scoperto che ChatGPT avrebbe diffuso informazioni false su di lui, accusandolo di appropriazione indebita di denaro.