Il nuovo standard globale mira a creare sicurezza attorno a grandi modelli linguistici
Il framework WDTA abbraccia il ciclo di vita di modelli linguistici di grandi dimensioni, offrendo linee guida per gestire l'integrazione con altri sistemi.
È stato rilasciato un nuovo standard globale per aiutare le organizzazioni a gestire i rischi derivanti dall’integrazione di modelli linguistici di grandi dimensioni (LLM) nei loro sistemi e ad affrontare le ambiguità attorno a questi modelli.
Il quadro offre linee guida per le diverse fasi del ciclo di vita dei LLM, che vanno da "sviluppo, implementazione e manutenzione", secondo la World Digital Technology Academy (WDTA), che ha pubblicato il documento venerdì. L’organizzazione non governativa (ONG) con sede a Ginevra opera sotto l’egida delle Nazioni Unite ed è stata fondata lo scorso anno per guidare lo sviluppo di standard nel regno digitale.
"Lo standard enfatizza un approccio multilivello alla sicurezza, che comprende rete, sistema, piattaforma e applicazione, modello e livelli di dati", ha affermato WDTA. "Sfrutta concetti chiave come la distinta base del machine learning, l'architettura zero trust e il monitoraggio e il controllo continui. Questi concetti sono progettati per garantire l'integrità, la disponibilità, la riservatezza, la controllabilità e l'affidabilità dei sistemi LLM lungo tutta la catena di fornitura."
Soprannominato standard AI-STR-03, il nuovo quadro mira a identificare e valutare le sfide legate all'integrazione delle tecnologie di intelligenza artificiale (AI), in particolare LLM, all'interno degli attuali ecosistemi IT, ha affermato WDTA. Ciò è essenziale poiché questi modelli di intelligenza artificiale possono essere utilizzati in prodotti o servizi gestiti in tutto o in parte da terze parti, ma non gestiti da loro.
I requisiti di sicurezza relativi alla struttura del sistema degli LLM, denominati requisiti di sicurezza della catena di fornitura, comprendono i requisiti per il livello di rete, il livello di sistema, il livello di piattaforma e applicazione, il livello di modello e il livello di dati. Ciò garantisce che il prodotto e i suoi sistemi, componenti, modelli, dati e strumenti siano protetti da manomissioni o sostituzioni non autorizzate durante l'intero ciclo di vita dei prodotti LLM.
WDTA ha affermato che ciò comporta l'implementazione di controlli e monitoraggio continuo in ogni fase della catena di approvvigionamento. Risolve inoltre le vulnerabilità comuni nella sicurezza del middleware per impedire l'accesso non autorizzato e salvaguardare dal rischio di avvelenamento dei dati di formazione utilizzati dagli ingegneri. Applica ulteriormente un’architettura zero-trust per mitigare le minacce interne.
"Mantenendo l'integrità di ogni fase, dall'acquisizione dei dati all'implementazione dei fornitori, i consumatori che utilizzano LLM possono garantire che i prodotti LLM rimangano sicuri e affidabili", ha affermato WDTA.
I requisiti di sicurezza della catena di fornitura LLM rispondono anche alle esigenze di disponibilità, riservatezza, controllo, affidabilità e visibilità. Questi lavorano collettivamente per garantire che i dati trasmessi lungo la catena di fornitura non vengano divulgati a soggetti non autorizzati, stabilendo in definitiva la trasparenza, in modo che i consumatori comprendano come vengono gestiti i loro dati.
Fornisce inoltre visibilità sulla catena di fornitura in modo che, ad esempio, se un modello viene aggiornato con nuovi dati di addestramento, lo stato del modello AI, prima e dopo l'aggiunta dei dati di addestramento, è adeguatamente documentato e tracciabile.
Affrontare l'ambiguità attorno ai LLM
Il nuovo quadro è stato redatto e rivisto da un gruppo di lavoro che comprende diverse aziende e istituzioni tecnologiche, tra cui Microsoft, Google, Meta, Cloud Security Alliance Greater China Region, Nanyang Technological University di Singapore, Tencent Cloud e Baidu. Secondo WDTA, è il primo standard internazionale che si occupa della sicurezza della catena di fornitura LLM.
La cooperazione internazionale sugli standard relativi all’intelligenza artificiale è sempre più cruciale poiché l’intelligenza artificiale continua ad avanzare e ad avere un impatto su vari settori in tutto il mondo, ha aggiunto il WDTA.
"Raggiungere un'intelligenza artificiale affidabile è un impegno globale, che richiede la creazione di strumenti e processi di governance efficaci che trascendono i confini nazionali", ha affermato l'ONG. "La standardizzazione globale svolge un ruolo cruciale in questo contesto, fornendo una via chiave per promuovere l'allineamento sulle migliori pratiche e l'interoperabilità dei regimi di governance dell'IA."
Lo stratega tecnologico di Microsoft Lars Ruddigkeit ha affermato che il nuovo quadro non mira ad essere perfetto ma fornisce le basi per uno standard internazionale.
"Vogliamo stabilire qual è il minimo che deve essere raggiunto", ha detto Ruddigkeit. "C'è molta ambiguità e incertezza attualmente intorno ai LLM e ad altre tecnologie emergenti, il che rende difficile per istituzioni, aziende e governi decidere quale sarebbe uno standard significativo. Lo standard della catena di fornitura WDTA cerca di portare questa prima strada verso una sicurezza futuro sulla buona strada."