Le linee guida sulla sicurezza forniscono il primo livello necessario di protezione dei dati nella corsa all’oro dell’IA
Strutture e principi contribuiranno a mitigare i rischi potenziali man mano che le aziende testano l’intelligenza artificiale generativa.
I quadri di sicurezza forniranno il primo livello necessario di protezione dei dati, soprattutto perché le conversazioni sull’intelligenza artificiale (AI) diventano sempre più complesse.
Questi quadri e principi contribuiranno a mitigare i rischi potenziali sfruttando al tempo stesso le opportunità per le tecnologie emergenti, inclusa l'intelligenza artificiale generativa (Gen AI), ha affermato Denise Wong, vice commissario della Personal Data Protection Commission (PDPC), che sovrintende al Personal Data Protection Act (PDPA) di Singapore. . È anche assistente amministratore delegato dell'autorità di regolamentazione del settore, Infocomm Media Development Authority (IMDA).
Le conversazioni sulle implementazioni tecnologiche sono diventate più complesse con l'intelligenza artificiale generativa, ha affermato Wong durante una tavola rotonda alla conferenza Personal Data Protection Week 2024 tenutasi a Singapore questa settimana. Le organizzazioni devono capire, tra le altre questioni, cosa comporta la tecnologia, cosa significa per la loro attività e i guardrail necessari.
Fornire le strutture di base può aiutare a minimizzare l’impatto, ha affermato. I toolkit possono fornire un punto di partenza da cui le aziende possono sperimentare e testare applicazioni di intelligenza artificiale generativa, inclusi toolkit open source gratuiti e disponibili su GitHub. Ha aggiunto che il governo di Singapore continuerà a collaborare con i partner del settore per fornire tali strumenti.
Queste collaborazioni supporteranno anche la sperimentazione dell’intelligenza artificiale generativa, in modo che il Paese possa capire cosa comporta la sicurezza dell’intelligenza artificiale, ha affermato Wong. Gli sforzi qui includono la sperimentazione e la collaborazione di modelli linguistici di grandi dimensioni (LLM) per il contesto locale e regionale, come la lingua e la cultura.
Ha affermato che gli approfondimenti derivanti da queste partnership saranno utili per organizzazioni e regolatori, come PDPC e IMDA, per comprendere come funzionano i diversi LLM e l'efficacia delle misure di sicurezza.
Singapore ha siglato accordi con IBM e Google per testare, valutare e mettere a punto il LLM del sud-est asiatico di AI Singapore, chiamato SEA-LION, durante lo scorso anno. Le iniziative mirano ad aiutare gli sviluppatori a creare applicazioni AI personalizzate su SEA-LION e a migliorare la consapevolezza del contesto culturale degli LLM creati per la regione.
Con il numero di LLM in crescita in tutto il mondo, compresi quelli principali di OpenAI e modelli open source, le organizzazioni possono trovare difficile comprendere le diverse piattaforme. Ogni LLM viene fornito con paradigmi e modalità per accedere al modello di intelligenza artificiale, ha affermato Jason Tamara Widjaja, direttore esecutivo dell'AI, Singapore Tech Center presso l'azienda farmaceutica MSD, che stava parlando allo stesso panel.
Ha affermato che le aziende devono comprendere come funzionano questi modelli di intelligenza artificiale pre-addestrati per identificare i potenziali rischi legati ai dati. Le cose diventano più complicate quando le organizzazioni aggiungono i propri dati ai LLM e lavorano per mettere a punto i modelli di formazione. L'utilizzo di tecnologie come la generazione aumentata di recupero (RAG) sottolinea ulteriormente la necessità per le aziende di garantire che i dati corretti vengano inseriti nel modello e che vengano mantenuti controlli di accesso ai dati basati sui ruoli, ha aggiunto.
Allo stesso tempo, ha affermato che le aziende devono anche valutare le misure di filtraggio dei contenuti su cui possono operare i modelli di intelligenza artificiale poiché queste possono avere un impatto sui risultati generati. Ad esempio, i dati relativi all’assistenza sanitaria delle donne potrebbero essere bloccati, anche se le informazioni forniscono conoscenze di base essenziali per la ricerca medica.
Widjaja ha affermato che la gestione di questi problemi comporta un equilibrio delicato ed è impegnativa. Uno studio di F5 ha rivelato che il 72% delle organizzazioni che implementano l'intelligenza artificiale hanno citato i problemi di qualità dei dati e l'incapacità di espandere le pratiche relative ai dati come sfide chiave per ridimensionare le proprie implementazioni di intelligenza artificiale.
Secondo il rapporto, che ha analizzato i dati di oltre 700 decisori IT a livello globale, circa il 77% delle organizzazioni ha affermato di non disporre di un’unica fonte di verità per i propri set di dati. Solo il 24% ha affermato di aver implementato l’intelligenza artificiale su larga scala, mentre un ulteriore 53% indica la mancanza di intelligenza artificiale e di competenze relative ai dati come uno dei principali ostacoli.
Singapore sta cercando di contribuire ad alleviare alcune di queste sfide con nuove iniziative per la governance dell’intelligenza artificiale e la generazione di dati.
"Le aziende continueranno ad aver bisogno di dati per implementare applicazioni oltre agli LLM esistenti", ha affermato il ministro per lo sviluppo digitale e l'informazione Josephine Teo, durante il suo discorso di apertura alla conferenza. "I modelli devono essere perfezionati per funzionare meglio e produrre risultati di qualità superiore per applicazioni specifiche. Ciò richiede set di dati di qualità."
E sebbene sia possibile utilizzare tecniche come RAG, questi approcci funzionano solo con fonti di dati aggiuntive che non sono state utilizzate per addestrare il modello di base, ha affermato Teo. Sono necessari anche buoni set di dati per valutare e confrontare le prestazioni dei modelli, ha aggiunto.
"Tuttavia, i set di dati di qualità potrebbero non essere prontamente disponibili o accessibili per tutto lo sviluppo dell'intelligenza artificiale. Anche se lo fossero, ci sono dei rischi [in cui] i set di dati potrebbero non essere rappresentativi, [dove] i modelli costruiti su di essi potrebbero produrre risultati distorti", ha spiegato. disse. Inoltre, Teo ha affermato che i set di dati potrebbero contenere informazioni di identificazione personale, il che potrebbe portare a modelli di intelligenza artificiale generativa che rigurgitano tali informazioni quando richiesto.
Mettere un’etichetta di sicurezza sull’IA
Teo ha affermato che Singapore rilascerà linee guida sulla sicurezza per i modelli di intelligenza artificiale generativa e gli sviluppatori di applicazioni per affrontare i problemi. Queste linee guida saranno inserite nel quadro AI Verify del paese, che mira a offrire standard comuni di base attraverso trasparenza e test.
"Le nostre linee guida raccomanderanno che gli sviluppatori e gli sviluppatori siano trasparenti con gli utenti fornendo informazioni su come funzionano i modelli e le app della Gen AI, come i dati utilizzati, i risultati dei test e della valutazione e i rischi residui e le limitazioni che il modello o l'app potrebbe avere", ha spiegato
Le linee guida delineeranno ulteriormente gli attributi di sicurezza e affidabilità che dovrebbero essere testati prima dell’implementazione di modelli o applicazioni di intelligenza artificiale e affronteranno questioni come allucinazioni, dichiarazioni tossiche e contenuti distorti, ha affermato. "È come quando compriamo elettrodomestici. Ci sarà un'etichetta che dice che è stato testato, ma cosa deve essere testato affinché lo sviluppatore del prodotto possa guadagnarsi quell'etichetta?"
Il PDPC ha anche pubblicato una proposta di guida sulla generazione di dati sintetici, compreso il supporto per le tecnologie di miglioramento della privacy, o PET, per affrontare le preoccupazioni sull’utilizzo di dati sensibili e personali nell’intelligenza artificiale generativa.
Notando che la generazione di dati sintetici sta emergendo come PET, Teo ha affermato che la guida proposta dovrebbe aiutare le aziende a "dare un senso ai dati sintetici", compreso il modo in cui possono essere utilizzati.
"Rimuovendo o proteggendo le informazioni di identificazione personale, i PET possono aiutare le aziende a ottimizzare l'uso dei dati senza compromettere i dati personali", ha osservato.
"I PET risolvono molte delle limitazioni nel lavorare con dati personali sensibili e aprono nuove possibilità rendendo più sicuri l'accesso, la condivisione e l'analisi collettiva dei dati."