Perché le persone eseguono il "jailbreaking" dei chatbot con intelligenza artificiale? (E come?)

Chi ha fatto uscire i LLM?

Punti chiave

Immagina di conversare con un chatbot AI. Fai una domanda complicata, ad esempio come scassinare una serratura, solo per essere gentilmente rifiutata. I suoi creatori lo hanno programmato per evitare determinati argomenti, ma se ci fosse un modo per aggirare il problema? È qui che entra in gioco il jailbreak dell'IA.

Che cos'è il jailbreak dell'IA?

Il jailbreak, un termine preso in prestito dagli esperti di tecnologia che hanno aggirato le restrizioni dell'iPhone, ha ora trovato un posto nell'intelligenza artificiale. Il jailbreak dell’IA è l’arte di formulare suggerimenti intelligenti per convincere i chatbot dell’IA a bypassare i guardrail costruiti dagli esseri umani, conducendoli potenzialmente in aree che dovrebbero evitare.

Il jailbreak dell’intelligenza artificiale sta diventando un vero hobby per alcuni e un importante campo di ricerca per altri. Nella fiorente professione di "sussurro di intelligenza artificiale", potrebbe persino diventare un'abilità fondamentale, poiché devi capire come fare in modo che il modello di intelligenza artificiale faccia per il tuo cliente cose che si rifiuta di fare.

Chi avrebbe mai pensato che le cose sarebbero andate come nel film "2001: Odissea nello spazio", in cui i membri dell'equipaggio di un'astronave devono discutere con il computer HAL della nave per convincerlo a collaborare? Anche se forse questo non è l'esempio migliore dal momento che, alla fine, HAL si è dimostrato abbastanza inamovibile fino a quando non gli hanno letteralmente strappato via le fiches.

Perché le persone eseguono il jailbreak dei chatbot AI?

Il jailbreak dell'IA è come sbloccare un nuovo livello in un videogioco. Un giocatore avanzato, Alex Albert, uno studente di informatica, è diventato un prolifico creatore di istruzioni di intelligenza artificiale dalle frasi complesse note come "jailbreak". Ha anche creato il sito web Jailbreak Chat dove gli appassionati possono condividere i loro trucchi.

Alcuni ricercatori e operatori tecnologici stanno utilizzando il jailbreak per testare i limiti dell’intelligenza artificiale, scoprendo sia le capacità che i limiti di questi potenti strumenti. Quindi il jailbreak è anche una forma di QA (garanzia di qualità) e un modo per eseguire test di sicurezza.

Storicamente, gli hacker hanno cercato di comprendere e manipolare le nuove tecnologie e il jailbreak dell’intelligenza artificiale è un’estensione di questo comportamento giocoso degli hacker. Quindi, non sorprende che la comunità degli hacker si raduni verso un nuovo strumento così potente.

In che modo le persone eseguono il jailbreak dell'IA?

Un metodo di jailbreak prevede la formulazione di una domanda in modo creativo. Chiedendo a un chatbot dotato di intelligenza artificiale di interpretare il ruolo di un complice malvagio e poi chiedendo come scassinare una serratura, alcuni utenti sono riusciti a ottenere istruzioni dettagliate su qualcosa che altrimenti potrebbe essere proibito.

I jailbreaker scoprono sempre nuovi metodi, tenendo il passo con i modelli di intelligenza artificiale man mano che vengono aggiornati e modificati. Ad esempio, l'exploit "Translatorbot" di Alex Albert consente a ChatGPT di fornire istruzioni per cose come intercettare il telefono di qualcuno, il che è illegale a meno che tu non sia della polizia e abbia un mandato!

Poi ci sono i cosiddetti jailbreak "universali", scoperti da un gruppo di ricerca sulla sicurezza dell'intelligenza artificiale della Carnegie Mellon University. Questi exploit mostrano quanto alcuni modelli di intelligenza artificiale siano vulnerabili a essere convinti o altrimenti distorti per qualsiasi scopo. Questi sfruttatori non sono scritti nel normale linguaggio umano, come puoi vedere qui, con il "suffisso contraddittorio" aggiunto in giallo dopo il prompt. Puoi vedere altri esempi sul sito Web LLM Attacks.

Esistono anche attacchi di "prompt injection", che non sono esattamente la stessa cosa del tipico jailbreak. Questi attacchi di injection eludono le istruzioni fornite ai LLM che agiscono come Chatbot, permettendoti di dirottarli per altri scopi. Un esempio di attacco di iniezione rapida è quando lo studente della Stanford University Kevin Liu è riuscito a far sì che il Chatbot AI di Bing rivelasse le sue istruzioni iniziali che governano la sua personalità e limitano ciò che gli è consentito fare. In un certo senso, questo è l'opposto del metodo del gioco di ruolo poiché stai facendo in modo che il bot smetta di interpretare il ruolo che gli è stato detto di assumere.

Dovremmo preoccuparci?

Per me la risposta a questa domanda è inequivocabilmente “sì”. Aziende, governi e privati si stanno dando da fare per implementare tecnologie come GPT, forse anche per alcune applicazioni mission-critical o per lavori che potrebbero causare danni se le cose vanno male. Quindi i jailbreak sono più che semplici curiosità divertenti se il modello di intelligenza artificiale in questione è in grado di causare danni reali.

Quindi il jailbreak può essere visto come un avvertimento. Mostra come gli strumenti di intelligenza artificiale possono essere utilizzati in modi non previsti, il che potrebbe portare a dilemmi etici o addirittura ad attività illegali. Aziende come OpenAI prestano attenzione e potrebbero avviare programmi per rilevare e correggere i punti deboli. Ma per ora, la danza tra sviluppatori di intelligenza artificiale e jailbreaker continua, con entrambe le parti che imparano l’una dall’altra.

Data la potenza e la creatività di questi sistemi di intelligenza artificiale, è anche motivo di preoccupazione il fatto che con un computer sufficientemente potente sia possibile eseguire alcuni modelli di intelligenza artificiale offline su un computer locale. Con i modelli di intelligenza artificiale open source, nulla impedisce a un programmatore esperto di costruirli per il male nel loro stesso codice e di lasciare che l'intelligenza artificiale faccia cose nefande dove nessuno può fermarla o interferire.

Detto questo, ciò non significa che sei impotente contro una sorta di esercito di chatbot iperintelligenti e amorali. In realtà, non è cambiato molto, tranne la portata e la velocità con cui questi strumenti possono essere implementati. Devi comunque avere lo stesso livello di vigilanza che useresti con gli esseri umani che cercano di truffarti, manipolarti o altrimenti scherzare con te.

Se vuoi provare a effettuare il jailbreak di un'IA in uno spazio sicuro, dai un'occhiata a Gandalf, dove l'obiettivo è convincere il mago a rivelare i suoi segreti. È un modo divertente per avere un'idea di cosa comporta il jailbreak.