I dati sintetici possono risolvere i problemi di privacy dell’intelligenza artificiale? Questa società ci scommette
Principalmente l'intelligenza artificiale ha lanciato un produttore di testo sintetico per proteggere le informazioni dei clienti. Come funziona e se preoccuparsi del collasso del modello.
Poiché sempre più aziende investono nell’intelligenza artificiale generativa (gen AI) per casi d’uso e prodotti su misura, i dati proprietari stanno diventando sempre più importanti per la formazione di modelli linguistici di grandi dimensioni (LLM). A differenza di ChatGPT, che è stato addestrato su miliardi di punti dati pubblici (e-mail, script, social media, documenti) recuperati da Internet, l'intelligenza artificiale aziendale spesso deve essere specificata nei dati dei clienti di quell'azienda.
Tuttavia, i dati dei clienti reali possono contenere informazioni di identificazione personale (PII), rendendone l'utilizzo un rischio per la privacy. È qui che entra in gioco la società di dati sintetici strutturati, per lo più AI.
Martedì, l'azienda ha lanciato una funzionalità di testo sintetico che automatizza il processo di generazione di dati sintetici e preserva i modelli del set di dati originale dell'utente.
Utilizzando dati sintetici per addestrare i modelli, Mostly AI mira ad aiutare le aziende a evitare di rischiare la privacy senza sacrificare le informazioni che i dati dei clienti come e-mail, trascrizioni di supporto e scambi di chatbot possono rivelare. Secondo l’azienda, i dati sintetici possono anche rappresentare una maggiore diversità rispetto ai dati originali.
Oltre alla privacy, altri casi d’uso includono il ribilanciamento di un set di dati per adattarlo a un modello o rimuovere bias e la generazione di dati fittizi per i test del software.
Come funziona
Le aziende caricano il proprio set di dati proprietario sui generatori Mostly AI, che sono pacchetti riutilizzabili protetti dalla privacy che includono metadati dei dati originali. Gli utenti possono caricare i dati dal proprio dispositivo locale o da un'altra fonte esterna e mettere a punto il proprio generatore sulla piattaforma Mostly AI.
Principalmente la piattaforma AI, mostrata in una demo inviata a ZDNET
Una volta confermata la configurazione corretta e i tipi di codifica, gli utenti selezionano tra i modelli Principalmente AI che desiderano utilizzare, quindi scelgono tra diversi modelli linguistici, comprese le opzioni pre-addestrate da HuggingFace.
Ciò che emerge è una versione sintetizzata dei dati, protetta dalla privacy, che preserva i suoi modelli statistici originali.
Selezione del modello
Questa configurazione aiuta ad addestrare il generatore di un'azienda. Gli utenti possono quindi confrontare i dati sintetici e quelli reali utilizzando i report del modello per garantirne l'accuratezza.
Per lo più l'intelligenza artificiale afferma che i suoi set di dati sembrano "reali tanto quanto i dati originali dei clienti di un'azienda con altrettanti dettagli, ma senza i dati personali originali, aiutando le aziende a conformarsi alle normative sulla protezione della privacy come GDPR e CCPA". L'azienda ha aggiunto che il suo testo sintetico "offre un miglioramento delle prestazioni fino al 35% rispetto al testo generato richiedendo a GPT-4o-mini di non fornire o di fornire solo pochi esempi reali".
Quindi, i dati sintetici sono davvero il futuro dell’intelligenza artificiale?
Il rapporto AGartner di aprile ha rilevato che i dati sintetici hanno un potenziale non realizzato nell'ingegneria del software, ma raccomanda che vengano utilizzati con attenzione. La creazione di dati sintetici può richiedere un utilizzo intensivo delle risorse, poiché il loro utilizzo efficace richiede fasi di test specifiche per ciascun caso d'uso.
"Oggi, la formazione sull'intelligenza artificiale sta raggiungendo un plateau poiché i modelli esauriscono le fonti di dati pubbliche e producono rendimenti decrescenti", ha affermato nel comunicato il CEO di Mostly AI, Tobias Hann. "Per sfruttare dati proprietari di alta qualità, che offrono valore e potenziale di gran lunga maggiori rispetto ai dati pubblici residui attualmente utilizzati, le imprese globali devono fare il salto e sfruttare sia i dati sintetici strutturati che quelli non strutturati per addestrare e implementare in modo sicuro le future soluzioni di intelligenza artificiale generativa. "
Una preoccupazione comune è che la bolla dell’intelligenza artificiale stia per scoppiare, in parte perché i modelli stanno esaurendo i dati disponibili al pubblico da acquisire. Anche se tecnicamente questo non è vero (qualsiasi attività umana può essere costituita da dati, potrebbe semplicemente non essere codificata, raccolta, strutturata e gratuita), la necessità di dati più utilizzabili per addestrare i modelli è reale. Dopotutto, è molto più semplice (ed economico) diventare veramente bravo a generare dati sintetici piuttosto che digitalizzare pagine disordinate di appunti scritti a mano. EvenMeta ha utilizzato sia dati umani che sintetici per addestrare Llama 3.1 405B.
Ma che dire del collasso dei modelli: l'idea che i modelli si deteriorano una volta ingeriti troppi dati sintetici?
Per lo più AI ha affermato in una e-mail a ZDNET che evita questa possibilità perché "i dati sintetici vengono generati una volta e applicati direttamente alle attività a valle", anziché essere utilizzati per addestrare ripetutamente i modelli.
È ancora da vedere se un maggiore utilizzo di dati sintetici nei vari settori crei una minaccia più ampia di collasso del modello. Fino ad allora, le aziende interessate allo strumento di Mostly AI possono visitare il suo sito web.