In che modo i firewall AI proteggeranno le tue nuove applicazioni aziendali
L’IT è sempre stata una corsa agli armamenti. L’intelligenza artificiale porta semplicemente una nuova classe di armi da schierare e difendere. Quanto tempo occorre prima che la protezione basata sull'intelligenza artificiale sia pronta per l'implementazione?
L’intelligenza artificiale e la sicurezza informatica sono indissolubilmente legate da molti anni. I buoni usano l'intelligenza artificiale per analizzare i pacchetti di dati in arrivo e contribuire a bloccare attività dannose, mentre i cattivi usano l'intelligenza artificiale per trovare e creare lacune nella sicurezza dei loro obiettivi. L’intelligenza artificiale ha contribuito alla corsa agli armamenti in continua espansione.
L’intelligenza artificiale è stata utilizzata per rafforzare i sistemi di difesa analizzando grandi quantità di traffico in entrata alla velocità della macchina e identificando modelli noti ed emergenti. Mentre criminali, hacker e stati-nazione lanciano attacchi sempre più sofisticati, gli strumenti di intelligenza artificiale vengono utilizzati per bloccare alcuni di questi attacchi e aiutare i difensori umani intensificando solo i comportamenti di attacco più critici o complessi.
Ma gli aggressori hanno anche accesso ai sistemi di intelligenza artificiale e sono diventati più sofisticati sia nel trovare exploit che nell’usare tecnologie come l’intelligenza artificiale per moltiplicare forzatamente il proprio gruppo di menti criminali. Sembra iperbolico, ma sembra che i cattivi non manchino di programmatori di grande talento che, motivati dal denaro, dalla paura o dall'ideologia per causare danni, stanno usando il loro talento per attaccare le infrastrutture.
Niente di tutto questo è una novità ed è una sfida continua da anni. Ecco cosa c'èdi nuovo: c'è una nuova classe di obiettivi: il sistema di intelligenza artificiale del valore aziendale (li chiamiamo principalmente chatbot). In questo articolo fornirò alcune informazioni su come, utilizzando i firewall, abbiamo protetto il valore aziendale in passato e su come un nuovo tipo di firewall sia stato sviluppato e testato proprio ora per proteggere le sfide specifiche del funzionamento e dell'affidamento sui chatbot IA in ambito commerciale.
Comprendere i firewall
I tipi di attacchi e difese praticati dalla tradizionale (sì, è passato abbastanza tempo da poterla definire "tradizionale") basata sull'intelligenza artificiale si verificano nei livelli di rete e di trasporto dello stack di rete. Il modello OSI è un quadro concettuale sviluppato dall'Organizzazione internazionale per la standardizzazione per comprendere e comunicare i vari livelli operativi di una rete moderna.
Il livello di rete instrada i pacchetti attraverso le reti, mentre il livello di trasporto gestisce la trasmissione dei dati, garantendo affidabilità e controllo del flusso tra i sistemi finali.
Si verificano rispettivamente nei livelli 3 e 4 del modello di rete OSI, gli attacchi tradizionali sono stati abbastanza vicini all'hardware e al cablaggio della rete e abbastanza lontani dal livello 7, il livello dell'applicazione. È molto più in alto nel livello dell'applicazione che la maggior parte delle applicazioni su cui noi esseri umani facciamo affidamento quotidianamente riescono a fare le loro cose. Ecco un altro modo di pensarci: l’infrastruttura di rete risiede negli strati inferiori, ma il valore aziendale risiede nello strato 7.
Gli strati di rete e di trasporto sono come la catena sotterranea di caverne e passaggi interconnessi che collegano gli edifici di una città, fungendo, tra le altre cose, da condotti per le consegne e lo smaltimento dei rifiuti. Il livello dell'applicazione è come quelle belle vetrine, dove i clienti fanno la spesa.
Nel mondo digitale, i firewall di rete sono da tempo in prima linea nella difesa dagli attacchi di livello 3 e 4. Possono scansionare i dati non appena arrivano, determinare se c'è un carico utile nascosto in un pacchetto e bloccare l'attività da luoghi ritenuti particolarmente preoccupanti.
Ma esiste un altro tipo di firewall in circolazione da un po', il firewall per applicazioni web o WAF. Il suo compito è bloccare l'attività che si verifica a livello dell'applicazione web.
Un WAF monitora, filtra e blocca il traffico HTTP dannoso; previene attacchi SQL injection e cross-site scripting (XSS), difetti di injection, autenticazione interrotta ed esposizione di dati sensibili; fornisce set di regole personalizzate per protezioni specifiche dell'applicazione; e mitiga gli attacchi DDoS, tra le altre protezioni. In altre parole, impedisce alle persone cattive di fare cose cattive alle buone pagine web.
Stiamo iniziando a vedere firewall AI che proteggono i dati di livello 7 (il valore aziendale) a livello di chatbot AI. Prima di parlare di come i firewall potrebbero proteggere tali dati, è utile capire come possono essere attaccati i chatbot basati sull’intelligenza artificiale.
Quando le persone cattive attaccano i buoni chatbot con intelligenza artificiale
Nell’ultimo anno circa, abbiamo assistito all’ascesa dell’intelligenza artificiale generativa pratica e funzionante. Questa nuova variante dell'intelligenza artificiale non vive solo in ChatGPT. Le aziende lo stanno implementando ovunque, ma soprattutto nei front-end rivolti ai clienti per il supporto agli utenti, l'assistenza alle vendite autonoma e persino nella diagnostica medica.
Esistono quattro approcci per attaccare i chatbot IA. Poiché queste soluzioni di intelligenza artificiale sono così nuove, questi approcci sono ancora per lo più teorici, ma ci si aspetta che gli hacker della vita reale percorrano queste strade nel prossimo anno circa.
Attacchi avversari: la rivista ScienceNews discute come gli exploit possono attaccare il modo in cui funzionano i modelli di intelligenza artificiale. I ricercatori stanno costruendo frasi o suggerimenti che sembrano validi per un modello di intelligenza artificiale ma sono progettati per manipolarne le risposte o causare qualche tipo di errore. L’obiettivo è fare in modo che il modello di intelligenza artificiale riveli potenzialmente informazioni sensibili, infranga i protocolli di sicurezza o risponda in un modo che potrebbe essere utilizzato per mettere in imbarazzo il suo operatore.
Ho discusso di una variazione molto semplicistica di questo tipo di attacco quando un utente ha inserito suggerimenti fuorvianti nell'interfaccia del chatbot non protetto per Chevrolet di Watsonville. Le cose non sono andate bene.
Iniezione di prompt indiretta: sempre più chatbot ora leggeranno le pagine Web attive come parte delle loro conversazioni con gli utenti. Quelle pagine web possono contenere qualsiasi cosa. Normalmente, quando un sistema di intelligenza artificiale analizza il contenuto di un sito web, è abbastanza intelligente da distinguere tra testo leggibile dall'uomo contenente conoscenza da elaborare e codice di supporto e direttive per la formattazione della pagina web.
Ma gli aggressori possono tentare di incorporare istruzioni e formattazioni in quelle pagine web per ingannare qualunque cosa le stia leggendo, il che potrebbe manipolare un modello di intelligenza artificiale per divulgare informazioni personali o sensibili. Questo è un pericolo potenzialmente enorme, perché i modelli di intelligenza artificiale fanno molto affidamento sui dati provenienti dall’ampia e selvaggia Internet. I ricercatori del MIT hanno esplorato questo problema e hanno concluso che “i chatbot basati sull’intelligenza artificiale sono un disastro per la sicurezza”.
Avvelenamento dei dati: è qui che, ne sono abbastanza convinto, gli sviluppatori di modelli linguistici di grandi dimensioni (LLM) stanno facendo di tutto per spararsi ai piedi virtuali. L'avvelenamento dei dati è la pratica di inserire dati di addestramento errati nei modelli linguistici durante lo sviluppo, essenzialmente l'equivalente di seguire un corso di geografia sulla natura sferica del pianeta dalla Flat Earth Society. L'idea è quella di inserire dati spuri, errati o volutamente fuorvianti durante la formazione del LLM in modo che successivamente fornisca informazioni errate.
Il mio esempio preferito è quando Google ha concesso in licenza i contenuti di Stack Overflow per il suo Gemini LLM. Stack Overflow è uno dei più grandi forum di supporto per sviluppatori online con la partecipazione di oltre 100 milioni di sviluppatori. Ma come sa ogni sviluppatore che ha utilizzato il sito per più di cinque minuti, per ogni risposta lucida e utile, ci sono da cinque a dieci risposte ridicole e probabilmente altre venti risposte che sostengono la validità di tutte le risposte.
Addestrare Gemini utilizzando tali dati significa che non solo Gemini avrà una serie di risposte uniche e preziose a tutti i tipi di problemi di programmazione, ma avrà anche un'enorme raccolta di risposte che si tradurranno in risultati terribili.
Ora, immagina se gli hacker sapessero che i dati Stack Overflow verranno regolarmente utilizzati per addestrare Gemini (e lo fanno perché è stato coperto da ZDNET e altri punti vendita tecnologici): possono costruire domande e risposte deliberatamente progettate per fuorviare Gemini e i suoi utenti.
Denial of Service distribuito: se non pensavi che un DDoS potesse essere utilizzato contro un chatbot AI, ripensaci. Ogni query di intelligenza artificiale richiede un'enorme quantità di dati e risorse di elaborazione. Se un hacker inonda un chatbot di domande, potrebbe potenzialmente rallentare o bloccare le sue risposte.
Inoltre, molti chatbot verticali concedono in licenza le API AI da fornitori come ChatGPT. Un tasso elevato di query spurie potrebbe aumentare i costi per i licenziatari se pagano utilizzando l'accesso a consumo. Se un hacker aumenta artificialmente il numero di chiamate API utilizzate, il licenziatario dell'API potrebbe superare la quota concessa in licenza o dover affrontare costi notevolmente aumentati da parte del fornitore di intelligenza artificiale.
Difesa dagli attacchi dell'IA
Poiché i chatbot stanno diventando componenti critici dell’infrastruttura del valore aziendale, il loro funzionamento continuo è essenziale. Dovrà essere tutelata anche l'integrità del valore aziendale fornito. Ciò ha dato origine a una nuova forma di firewall, progettata specificamente per proteggere l’infrastruttura AI.
Stiamo appena iniziando a vedere firewall IA generativi come il servizio Firewall for AI annunciato dalla società di sicurezza di rete edge Cloudflare. Il firewall di Cloudflare si trova tra l'interfaccia del chatbot nell'applicazione e l'LLM stesso, intercettando le chiamate API dall'applicazione prima che raggiungano l'LLM (il cervello dell'implementazione dell'intelligenza artificiale). Il firewall intercetta inoltre le risposte alle chiamate API, convalidando tali risposte contro attività dannose.
Tra le protezioni fornite da questa nuova forma di firewall c'è il rilevamento dei dati sensibili (SDD). L’SDD non è una novità per i firewall delle applicazioni web, ma il potenziale per un chatbot di far emergere dati sensibili non intenzionali è considerevole, quindi l’applicazione delle regole di protezione dei dati tra il modello di intelligenza artificiale e l’applicazione aziendale aggiunge un importante livello di sicurezza.
Inoltre, ciò impedisce alle persone che utilizzano il chatbot, ad esempio i dipendenti interni di un'azienda, di condividere informazioni aziendali sensibili con un modello di intelligenza artificiale fornito da una società esterna come OpenAI. Questa modalità di sicurezza aiuta a impedire che le informazioni entrino nella knowledge base complessiva del modello pubblico.
Il firewall AI di Cloudflare, una volta implementato, è destinato anche a gestire gli abusi del modello, una forma di iniezione tempestiva e attacco contraddittorio inteso a corrompere l'output del modello. Cloudflare richiama specificamente questo caso d'uso:
Un caso d'uso comune che sentiamo dai clienti del nostro AI Gateway è che vogliono evitare che la loro applicazione generi un linguaggio tossico, offensivo o problematico. I rischi derivanti dal non controllo dell’esito del modello includono danni alla reputazione e danni all’utente finale fornendo una risposta inaffidabile.
Esistono altri modi in cui un firewall per applicazioni Web può mitigare gli attacchi, in particolare quando si tratta di un attacco volumetrico come il query bombing, che diventa di fatto un DDoS per scopi speciali. Il firewall utilizza funzionalità di limitazione della velocità che rallentano la velocità e il volume delle query e filtrano quelle che sembrano progettate specificamente per violare l'API.
Non del tutto pronto per la prima serata
Secondo Cloudflare, le protezioni contro gli attacchi volumetrici di tipo DDoS e il rilevamento dei dati sensibili possono ora essere implementate dai clienti. Tuttavia, le funzionalità di convalida rapida - in sostanza, le funzionalità fortemente incentrate sull’intelligenza artificiale del firewall AI - sono ancora in fase di sviluppo e entreranno in versione beta nei prossimi mesi.
Normalmente, non vorrei parlare di un prodotto in questa fase iniziale di sviluppo, ma penso che sia importante mostrare come l'intelligenza artificiale sia entrata nell'uso tradizionale dell'infrastruttura delle applicazioni aziendali al punto da diventare oggetto di attacco e dove un sostanziale lavoro viene fatto per fornire difese basate sull’intelligenza artificiale.
Rimani sintonizzato. Terremo traccia delle implementazioni dell'intelligenza artificiale e di come cambiano i contorni del mondo delle applicazioni aziendali. Esamineremo anche i problemi di sicurezza e il modo in cui le aziende possono mantenere sicure tali implementazioni.
L’IT è sempre stata una corsa agli armamenti. L’intelligenza artificiale porta semplicemente una nuova classe di armi da schierare e difendere.
Puoi seguire gli aggiornamenti quotidiani sui miei progetti sui social media. Assicurati di iscriverti alla mia newsletter di aggiornamento settimanale su Substack e seguimi su Twitter su @DavidGewirtz, su Facebook su Facebook.com/DavidGewirtz, su Instagram su Instagram.com/DavidGewirtz e su YouTube su YouTube.com/DavidGewirtzTV.