La piattaforma di generazione vocale basata sull'intelligenza artificiale che ha scioccato il mondo sta ricevendo un aggiornamento per combattere gli abusi
La funzionalità di clonazione vocale di ElevenLab è stata utilizzata per casi d'uso buoni e cattivi. L’ultimo aggiornamento può fermare l’uso improprio?
L’intelligenza artificiale generativa ha la capacità di generare tutti i tipi di contenuti inclusi testo, arte, immagini e persino parlato.
La startup AI, ElevenLabs, ha supportato la generazione di sintesi vocale e la clonazione vocale sin dal suo lancio beta a gennaio e ha accumulato oltre un milione di utenti registrati.
Inoltre: Meta svela Voicebox AI per replicare le voci dei tuoi amici e dei tuoi cari
Martedì, ElevenLabs ha annunciato la chiusura di un round di serie A da 19 milioni di dollari, nonché alcuni importanti aggiornamenti alla piattaforma, compresi quelli per affrontare la sua più grande controversia.
Sin dal suo lancio, la tecnologia di generazione vocale di Elevenlabs ha avuto implicazioni sia positive che negative.
Alcuni degli usi positivi, come delineato da ElevenLabs, includono "autori indipendenti che creano audiolibri, sviluppatori che danno voce a personaggi nei videogiochi, supportano i non vedenti nell'accesso a contenuti scritti online e alimentano il primo canale radio AI al mondo".
Sebbene questi casi d’uso siano positivi e facciano avanzare i processi aziendali di molti settori diversi, si sono verificate applicazioni altrettanto dannose.
Lo strumento di clonazione vocale, che prende frammenti della voce di una persona per generare nuovo audio, è stato utilizzato con mezzi nefasti, facendo sembrare che personaggi pubblici stiano dicendo dichiarazioni orribili e discriminatorie.
Alcune settimane dopo il rilascio della beta, ElevenLabs si è immediatamente rivolto a Twitter per affrontare i "casi di uso improprio della clonazione della voce". L'azienda ha suggerito potenziali modi per combattere il problema, come un'ulteriore verifica dell'account, la verifica del copyright sulla voce, lo spostamento della clonazione vocale su un livello a pagamento e persino la verifica manuale di ciascuna richiesta.
Inoltre: Vimeo aggiunge una suite di strumenti IA per rendere la creazione di video molto più semplice
Oggi ha rilasciato al pubblico quella che sembra essere la soluzione dell'azienda al problema, un classificatore vocale AI. Questo strumento sarà in grado di decifrare se l'audio caricato contiene audio generato dall'intelligenza artificiale di ElevenLabs o meno.
"Il rilascio dell'AI Speech Classifier è l'ultimo passo nella spinta dell'azienda verso la trasparenza, ed è una pietra angolare del loro impegno nella creazione di un panorama multimediale generativo sicuro", ha affermato ElevenLabs nel comunicato.
Secondo un post precedente che annunciava lo strumento, lo strumento mantiene una precisione >99% nell'identificare quando l'audio non è modificato.
Tuttavia, se l'audio è stato sottoposto a trasformazioni di codec o riverbero, la precisione scende oltre il 90% e più il contenuto è stato elaborato, più la precisione diminuisce, secondo il comunicato.
Questo strumento non previene l'uso improprio e può semplicemente aiutare a chiarire la confusione dopo che il danno iniziale è stato causato. La sua efficacia nel risolvere il problema è discutibile, ma è un piccolo passo.
Questa non è la prima volta che la tecnologia di generazione dell’intelligenza artificiale viene utilizzata in modo improprio per prendere di mira personaggi pubblici. Ad esempio, un generatore musicale basato su intelligenza artificiale è stato in grado di generare una collaborazione tra Drake e The Weekend che sembrava reale sebbene nessuno dei due artisti fosse effettivamente sulla traccia.
Inoltre: La musica generata dall'intelligenza artificiale può vincere un premio musicale? I Grammy rivelano nuove regole
I generatori di arte e immagini basati sull'intelligenza artificiale sono stati utilizzati anche per generare immagini false e realistiche di personaggi pubblici che svolgono determinate attività. Alcune di queste immagini sono state utilizzate negativamente come propaganda politica mentre altre sono state utilizzate solo per scopi di intrattenimento, come il meme di Papa Francesco in piumino.
Oltre all'AI Speech Classifier, ElevenLabs ha annunciato anche l'arrivo di "Projects" nella sua suite di prodotti.
"Progetti" è un flusso di lavoro per la modifica e la creazione di contenuti parlati di lunga durata ora disponibili per l'accesso anticipato. Secondo il comunicato, è pensato per fungere da sportello unico per le esigenze di editing audio e fornire un "livello di semplicità di Google Docs" alla creazione audio.
L'aggiunta della funzione "Progetti" è simile a quelle che abbiamo visto su altre piattaforme di creatività, come Vimeo, TikTok e Adobe Express. L’obiettivo di tutte queste piattaforme è implementare l’intelligenza artificiale in modo da ottimizzare il flusso di lavoro degli utenti e consentire una creazione di contenuti più semplice e ottimizzata.