I governi possono trasformare i discorsi sulla sicurezza dell’IA in azioni concrete?
Gli operatori del settore e i governi discutono dei guardrail per l’intelligenza artificiale, ma non li stanno implementando. Ecco cosa manca.
Al vertice Asia Tech x Singapore 2024, diversi relatori erano pronti per discussioni di alto livello e per una maggiore consapevolezza sull'importanza di trasformare la sicurezza dell'intelligenza artificiale (AI) in azione. Molti stanno cercando di preparare tutti, dalle organizzazioni ai singoli individui, con gli strumenti per implementare correttamente questa tecnologia.
"Passare all'azione pragmatica e pratica. Questo è ciò che manca", ha detto Ieva Martinkenaite, responsabile della ricerca e dell'innovazione del gruppo Telenor, che ha parlato a ZDNET a margine del vertice. Martinkenaite è membro del consiglio di amministrazione del Norwegian Open AI Lab e membro del Consiglio consultivo di Singapore sull'uso etico dell'intelligenza artificiale e dei dati. Dal 2018 al 2020 è stata anche membro esperto del gruppo di esperti di alto livello sull'intelligenza artificiale della Commissione europea.
Martinkenaite ha osservato che anche gli alti funzionari stanno iniziando a riconoscere questo problema.
I delegati alla conferenza, che comprendeva i massimi ministri del governo di varie nazioni, hanno scherzato dicendo che stavano semplicemente bruciando carburante per aerei partecipando a riunioni di alto livello sui vertici sulla sicurezza dell’intelligenza artificiale, più recentemente in Corea del Sud e nel Regno Unito, dato che hanno ancora poco da mostrare. in termini di passi concreti.
Martinkenaite ha affermato che è giunto il momento che i governi e gli organismi internazionali inizino a implementare playbook, framework e strumenti di benchmarking per aiutare le aziende e gli utenti a garantire che stanno implementando e consumando l’intelligenza artificiale in modo sicuro. Ha aggiunto che sono necessari anche investimenti continui per facilitare tali sforzi.
I deepfake generati dall’intelligenza artificiale, in particolare, comportano rischi significativi e possono avere un impatto sulle infrastrutture critiche, ha avvertito. Sono già una realtà oggi: sono emerse immagini e video di politici, personaggi pubblici e persino di Taylor Swift.
Martinkenaite ha aggiunto che la tecnologia è ora più sofisticata rispetto a un anno fa, rendendo sempre più difficile identificare i deepfake. I criminali informatici possono sfruttare questa tecnologia per rubare credenziali e accedere illegalmente a sistemi e dati.
"Gli hacker non stanno hackerando, stanno effettuando l'accesso", ha detto. Si tratta di una questione critica in alcuni settori, come quello delle telecomunicazioni, dove i deepfake possono essere utilizzati per penetrare nelle infrastrutture critiche e amplificare gli attacchi informatici. Martinkenaite ha osservato che gli ID dei dipendenti possono essere falsificati e utilizzati per accedere a data center e sistemi IT, aggiungendo che se questa inerzia rimane irrisolta, il mondo rischia di subire un attacco potenzialmente devastante.
Gli utenti devono essere dotati della formazione e degli strumenti necessari per identificare e combattere tali rischi, ha affermato. È inoltre necessario sviluppare la tecnologia per rilevare e prevenire tali contenuti generati dall’intelligenza artificiale, inclusi testo e immagini, come la filigrana digitale e l’analisi forense dei media. Martinkenaite ritiene che questi dovrebbero essere implementati insieme alla legislazione e alla collaborazione internazionale.
Tuttavia, ha osservato che i quadri legislativi non dovrebbero regolare la tecnologia, altrimenti l’innovazione dell’intelligenza artificiale potrebbe essere soffocata e avere un impatto sui potenziali progressi nel settore sanitario, ad esempio.
Le normative dovrebbero invece affrontare i settori in cui la tecnologia deepfake ha il maggiore impatto, come le infrastrutture critiche e i servizi governativi. Requisiti come il watermarking, l’autenticazione delle fonti e la creazione di barriere attorno all’accesso e al tracciamento dei dati possono quindi essere implementati per i settori ad alto rischio e i relativi fornitori di tecnologia, ha affermato Martinekaite.
Secondo Natasha Crampton, responsabile AI di Microsoft, la società ha assistito a un aumento dei deepfake, delle immagini non consensuali e del cyberbullismo. Durante una tavola rotonda al vertice, ha affermato che Microsoft si sta concentrando sul monitoraggio dei contenuti online ingannevoli relativi alle elezioni, in particolare con diverse elezioni che si terranno quest'anno.
Stefan Schnorr, segretario di stato del Ministero federale tedesco per il digitale e i trasporti, ha affermato che i deepfake possono potenzialmente diffondere informazioni false e fuorviare gli elettori, con conseguente perdita di fiducia nelle istituzioni democratiche.
Proteggersi da ciò implica anche un impegno a salvaguardare i dati personali e la privacy, ha aggiunto Schnorr. Ha sottolineato la necessità che la cooperazione internazionale e le aziende tecnologiche aderiscano alle leggi informatiche messe in atto per promuovere la sicurezza dell'IA, come la legge sull'intelligenza artificiale dell'UE.
Se consentiti di perpetuarsi senza restrizioni, i deepfake potrebbero influenzare il processo decisionale, ha affermato Zeng Yi, direttore del Brain-inspired Cognitive Intelligence Lab e del Centro internazionale di ricerca per l’etica e la governance dell’intelligenza artificiale, Istituto di automazione, Accademia cinese delle scienze.
Sottolineando inoltre la necessità di cooperazione internazionale, Zeng ha suggerito che dovrebbe essere istituito un “osservatorio” deepfake in tutto il mondo per promuovere una migliore comprensione e scambiare informazioni sulla disinformazione, nel tentativo di impedire che tali contenuti dilaghino in tutti i paesi.
Un’infrastruttura globale che controlli i fatti e la disinformazione può anche aiutare a informare il grande pubblico sui deepfake, ha affermato.
Singapore aggiorna il quadro di governance della generazione AI
Nel frattempo, Singapore ha rilasciato la versione finale del suo quadro di governance per l’IA generativa, che espande il suo quadro di governance dell’IA esistente, introdotto per la prima volta nel 2019 e aggiornato l’ultima volta nel 2020.
Il modello di governance dell’intelligenza artificiale per GenAI stabilisce un approccio “sistematico ed equilibrato” che, secondo Singapore, bilancia la necessità di affrontare le preoccupazioni di GenAI e promuovere l’innovazione. Comprende nove dimensioni, tra cui la segnalazione degli incidenti, la provenienza dei contenuti, la sicurezza, i test e la garanzia, e fornisce suggerimenti sui passi iniziali da intraprendere.
In una fase successiva, AI Verify, il gruppo dietro il framework, aggiungerà linee guida e risorse più dettagliate nell’ambito delle nove dimensioni. Per supportare l’interoperabilità, mapperanno anche il quadro di governance sulle linee guida internazionali sull’IA, come i Principi del G7 di Hiroshima.
Il buon governo è importante quanto l'innovazione nel realizzare la visione di Singapore sull'intelligenza artificiale per sempre e può aiutare a consentire un'innovazione duratura, ha affermato Josephine Teo, Ministro delle comunicazioni e dell'informazione di Singapore e Ministro incaricato della Smart Nation e della sicurezza informatica, durante il suo discorso al vertice.
"Dobbiamo riconoscere che una cosa è affrontare gli effetti dannosi dell'intelligenza artificiale, ma un'altra è prevenirli in primo luogo... attraverso una progettazione adeguata e misure a monte", ha affermato Teo. Ha aggiunto che le misure di mitigazione del rischio sono essenziali e che le nuove normative “basate su prove” possono portare a una governance dell’IA più significativa e di maggiore impatto.
Oltre a stabilire la governance dell’IA, Singapore sta anche cercando di accrescere le proprie capacità di governance, ad esempio costruendo un centro per la tecnologia avanzata nella sicurezza online che si concentri sui contenuti online dannosi generati dall’intelligenza artificiale.
Anche gli utenti devono comprendere i rischi. Teo ha osservato che è nell’interesse pubblico che le organizzazioni che utilizzano l’intelligenza artificiale ne comprendano i vantaggi e i limiti.
Teo ritiene che le aziende dovrebbero quindi dotarsi della mentalità, delle capacità e degli strumenti giusti per farlo. Ha aggiunto che il modello di quadro di governance dell'intelligenza artificiale di Singapore offre linee guida pratiche su ciò che dovrebbe essere implementato come salvaguardia. Stabilisce inoltre i requisiti di base per le implementazioni dell'intelligenza artificiale, indipendentemente dalle dimensioni o dalle risorse dell'azienda.
Secondo Martinkenaite, per Telenor, governance dell’intelligenza artificiale significa anche monitorare l’uso dei nuovi strumenti di intelligenza artificiale e rivalutare i potenziali rischi. L'azienda di telecomunicazioni norvegese sta attualmente sperimentando Microsoft Copilot, che si basa sulla tecnologia OpenAI, contro i principi etici dell'intelligenza artificiale di Telenor.
Alla domanda se il recente conflitto di OpenAI che coinvolge la sua modalità vocale abbia influito sulla sua fiducia nell'uso della tecnologia, Martinkenaite ha affermato che le principali aziende che gestiscono infrastrutture critiche come Telenor hanno la capacità e i controlli in atto per garantire che stiano implementando strumenti di intelligenza artificiale affidabili, comprese piattaforme di terze parti come come OpenAI. Ciò include anche la collaborazione con partner come fornitori di servizi cloud e fornitori di soluzioni più piccoli per comprendere e conoscere gli strumenti che sta utilizzando.
Lo scorso anno Telenor ha creato una task force per supervisionare l’adozione dell’IA responsabile. Martinkenaite ha spiegato che ciò comporta la definizione di principi che i suoi dipendenti devono osservare, la creazione di regolamenti e strumenti per guidare l’utilizzo dell’intelligenza artificiale e la definizione di standard che i suoi partner, inclusa Microsoft, dovrebbero osservare.
Questi hanno lo scopo di garantire che la tecnologia utilizzata dall’azienda sia legale e sicura, ha aggiunto. Telenor dispone inoltre di un team interno che esamina le proprie strutture di gestione del rischio e di governance per prendere in considerazione l'utilizzo di GenAI. Valuterà gli strumenti e i rimedi necessari per garantire la giusta struttura di governance per gestire l’uso dell’intelligenza artificiale in aree ad alto rischio, ha osservato Martinkenaite.
Poiché le organizzazioni utilizzano i propri dati per addestrare e mettere a punto modelli linguistici di grandi dimensioni e modelli di intelligenza artificiale più piccoli, Martinkenaite ritiene che le aziende e gli sviluppatori di intelligenza artificiale discuteranno sempre più su come questi dati vengono utilizzati e gestiti.
Ritiene inoltre che la necessità di conformarsi alle nuove leggi, come l’EU AI Act, alimenterà ulteriormente tali conversazioni, poiché le aziende lavorano per garantire di soddisfare i requisiti aggiuntivi per le implementazioni di IA ad alto rischio. Ad esempio, dovranno sapere come vengono curati e tracciati i dati di addestramento dell’IA.
C’è molto più controllo e preoccupazione da parte delle organizzazioni, che vorranno esaminare da vicino i loro accordi contrattuali con gli sviluppatori di intelligenza artificiale.