Microsoft e OpenAI rilevano e interrompono le minacce informatiche a livello nazionale che utilizzano l’intelligenza artificiale, come mostra il rapporto
Anche i cattivi stanno sfruttando modelli linguistici di grandi dimensioni.
Man mano che le tecnologie di intelligenza artificiale generativa diventano più avanzate, lo stesso vale per gli attacchi informatici. Questo secondo Microsoft e OpenAI, che hanno condiviso i risultati di una ricerca sull'uso dannoso di modelli linguistici di grandi dimensioni (LLM) da parte di avversari sostenuti da stati-nazione.
Mercoledì, Microsoft ha pubblicato il suo rapporto Cyber Signals 2024, che descrive in dettaglio gli attacchi degli stati-nazione rilevati e sventati insieme a OpenAI da parte di avversari russi, nordcoreani, iraniani e sostenuti dalla Cina, nonché le azioni che individui e organizzazioni possono intraprendere per contrastarli. prepararsi per potenziali attacchi.
Le due società tecnologiche hanno monitorato gli attacchi avversari affiliati allo stato di Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon e Salmon Typhoon. Ogni attacco ha utilizzato LLM per potenziare in qualche modo le proprie operazioni informatiche, inclusa l'assistenza nella ricerca, nella risoluzione dei problemi e nella generazione di contenuti.
Ad esempio, Emerald Sleet, un attore di minacce nordcoreano, ha sfruttato gli LLM per ricercare think tank ed esperti sulla Corea del Nord, generare contenuti che sarebbero stati probabilmente utilizzati in campagne di spear-phishing, comprendere vulnerabilità pubblicamente note, risolvere problemi tecnici e persino fornire assistenza con utilizzando varie tecnologie web, secondo il rapporto.
Allo stesso modo, Crimson Sandstorm, un attore di minacce iraniano, ha utilizzato i LLM per l’assistenza tecnica, compreso il supporto nell’ingegneria sociale, l’assistenza nella risoluzione degli errori e altro ancora.
Se sei interessato a saperne di più su ciascuna minaccia statale, inclusa la loro affiliazione e il loro utilizzo degli LLM, puoi consultare il rapporto, che include una sezione dedicata ai briefing sulle singole minacce.
Microsoft spiega come le frodi basate sull'intelligenza artificiale, come la sintesi vocale, che consente agli attori di addestrare un modello a suonare come chiunque con una breve frase di tre secondi, siano una minaccia emergente e sempre più preoccupante.
Sebbene il rapporto mostri che l’intelligenza artificiale generativa viene utilizzata da soggetti malintenzionati, la tecnologia può essere utilizzata anche da difensori, come Microsoft, per sviluppare una protezione più intelligente e rimanere all’avanguardia nella costante caccia al gatto e al topo che è la sicurezza informatica.
Microsoft rileva ogni giorno oltre 65 milioni di segnali di sicurezza informatica. Secondo il rapporto, l’intelligenza artificiale garantisce che tali segnali vengano analizzati per raccogliere le informazioni più preziose per aiutare a fermare le minacce.
Microsoft condivide anche altri modi in cui utilizza l'intelligenza artificiale, tra cui "rilevamento delle minacce abilitato dall'intelligenza artificiale per individuare cambiamenti nel modo in cui vengono utilizzate le risorse o il traffico sulla rete; analisi comportamentale per rilevare accessi rischiosi e comportamenti anomali; modelli di machine learning (ML) per rilevare accessi rischiosi e malware; modelli Zero Trust in cui ogni richiesta di accesso deve essere completamente autenticata, autorizzata e crittografata e verifica dell'integrità del dispositivo prima che un dispositivo possa connettersi a una rete aziendale."
Per concludere il rapporto, Microsoft afferma che la formazione continua dei dipendenti e del pubblico è fondamentale nel combattere le tecniche di ingegneria sociale, che hanno successo solo se gli esseri umani non riescono a identificarle, e che la prevenzione, abilitata o meno dall’intelligenza artificiale, è fondamentale per combattere tutte le minacce informatiche. .