Rilevamento dei deepfake in tempo reale: come Intel Labs utilizza l'intelligenza artificiale per combattere la disinformazione
Ilke Demir di Intel spiega come funziona la tecnologia deepfake e perché è essenziale che i ricercatori di intelligenza artificiale collaborino con antropologi, scienziati sociali e ricercatori accademici.
Alcuni anni fa, i deepfake sembravano una tecnologia innovativa i cui creatori facevano affidamento su una notevole potenza di calcolo. Oggi, i deepfake sono onnipresenti e possono essere utilizzati in modo improprio per disinformazione, hacking e altri scopi nefasti.
Intel Labs ha sviluppato una tecnologia di rilevamento dei deepfake in tempo reale per contrastare questo problema crescente. Ilke Demir, ricercatore senior presso Intel, spiega la tecnologia alla base dei deepfake, i metodi di rilevamento di Intel e le considerazioni etiche coinvolte nello sviluppo e nell'implementazione di tali strumenti.
I deepfake sono video, discorsi o immagini in cui l'attore o l'azione non è reale ma creata dall'intelligenza artificiale (AI). I deepfake utilizzano complesse architetture di deep learning, come reti generative avversarie, codificatori automatici variazionali e altri modelli di intelligenza artificiale, per creare contenuti altamente realistici e credibili. Questi modelli possono generare personalità sintetiche, video con sincronizzazione labiale e persino conversioni da testo a immagine, rendendo difficile distinguere tra contenuti reali e falsi.
Il termine deepfake viene talvolta applicato a contenuti autentici che sono stati alterati, come il video del 2019 dell'ex presidente della Camera Nancy Pelosi, che è stato manipolato per farla sembrare ubriaca.
Il team di Demir esamina i deepfake computazionali, che sono forme sintetiche di contenuti generati dalle macchine. "Il motivo per cui si chiama deepfake è che esiste questa complicata architettura di deep learning nell'intelligenza artificiale generativa che crea tutti quei contenuti", afferma.
I criminali informatici e altri malintenzionati spesso abusano della tecnologia deepfake. Alcuni casi d'uso includono disinformazione politica, contenuti per adulti con celebrità o individui non consenzienti, manipolazione del mercato e furto d'identità a scopo di lucro. Questi impatti negativi sottolineano la necessità di metodi efficaci di rilevamento dei deepfake.
Intel Labs ha sviluppato una delle prime piattaforme di rilevamento dei deepfake in tempo reale al mondo. Invece di cercare artefatti falsi, la tecnologia si concentra sul rilevamento di ciò che è reale, come la frequenza cardiaca. Utilizzando una tecnica chiamata fotopletismografia - il sistema di rilevamento analizza i cambiamenti di colore nelle vene dovuti al contenuto di ossigeno, che è visibile computazionalmente - la tecnologia può rilevare se una personalità è umana reale o sintetica.
"Stiamo cercando di guardare a ciò che è reale e autentico. La frequenza cardiaca è uno dei [segnali]", ha detto Demir. "Quindi, quando il tuo cuore pompa sangue, va nelle vene, e le vene cambiano colore a causa del contenuto di ossigeno, quel colore cambia. Non è visibile ai nostri occhi; non posso semplicemente guardare questo video e vedere la tua frequenza cardiaca. Ma quel cambiamento di colore è computazionalmente visibile."
La tecnologia di rilevamento dei deepfake di Intel viene implementata in vari settori e piattaforme, inclusi strumenti di social media, agenzie di stampa, emittenti, strumenti per la creazione di contenuti, startup e organizzazioni non profit. Integrando la tecnologia nei loro flussi di lavoro, queste organizzazioni possono identificare e mitigare meglio la diffusione di deepfake e disinformazione.
Nonostante il rischio di abusi, la tecnologia deepfake ha applicazioni legittime. Uno dei primi utilizzi è stata la creazione di avatar per rappresentare meglio gli individui negli ambienti digitali. Demir si riferisce a un caso d'uso specifico chiamato "MyFace, MyChoice", che sfrutta i deepfake per migliorare la privacy sulle piattaforme online.
In termini semplici, questo approccio consente alle persone di controllare il proprio aspetto nelle foto online, sostituendo il proprio volto con un “deepfake quantificabilmente dissimile” se vogliono evitare di essere riconosciuti. Questi controlli offrono maggiore privacy e controllo sulla propria identità, aiutando a contrastare gli algoritmi di riconoscimento automatico dei volti.
Garantire lo sviluppo etico e l’implementazione delle tecnologie di intelligenza artificiale è fondamentale. Il team Trusted Media di Intel collabora con antropologi, scienziati sociali e ricercatori sugli utenti per valutare e perfezionare la tecnologia. L’azienda dispone anche di un Responsible AI Council, che esamina i sistemi di intelligenza artificiale per principi responsabili ed etici, inclusi potenziali pregiudizi, limitazioni e possibili casi d’uso dannosi. Questo approccio multidisciplinare aiuta a garantire che le tecnologie di intelligenza artificiale, come il rilevamento dei deepfake, servano a beneficio degli esseri umani anziché causare danni.
"Abbiamo esperti di diritto, scienziati sociali, psicologi, e tutti si stanno unendo per individuare i limiti e scoprire se ci sono pregiudizi: pregiudizi algoritmici, pregiudizi sistematici, pregiudizi sui dati, qualsiasi tipo di pregiudizio", afferma Demir. . Il team esegue la scansione del codice per trovare "ogni possibile caso d'uso di una tecnologia che può danneggiare le persone".
Man mano che i deepfake diventano sempre più diffusi e sofisticati, lo sviluppo e l’implementazione di tecnologie di rilevamento per combattere la disinformazione e altre conseguenze dannose diventa sempre più importante. La tecnologia di rilevamento dei deepfake in tempo reale di Intel Labs offre una soluzione scalabile ed efficace a questo problema crescente.
Incorporando considerazioni etiche e collaborando con esperti di varie discipline, Intel sta lavorando verso un futuro in cui le tecnologie di intelligenza artificiale vengono utilizzate in modo responsabile e per il miglioramento della società.