I pericoli di trattare ChatGPT come un compagno
Punti chiave
- Grazie a progressi come ChatGPT, i chatbot IA sono incredibilmente realistici, quasi umani.
- La compagnia dell’intelligenza artificiale ha i suoi vantaggi, come aiutare nella gestione del dolore o alleviare la solitudine.
- Trattare l’intelligenza artificiale come una vera amica può portare a dipendenza emotiva, cattive abitudini e problemi di privacy.
È davvero facile parlare con i chatbot IA come ChatGPT. Invia loro un messaggio in qualsiasi momento della giornata e risponderanno in pochi secondi. Oppure parla con loro tramite la chat vocale e risponderanno ed emetteranno emozioni proprio come farebbe un normale amico umano. Tuttavia, i chatbot con intelligenza artificiale non sono umani o tuoi amici e può essere pericoloso dimenticarlo!
I chatbot sono diventati incredibilmente realistici
Se hai giocato con GPT-4o di Open AI o hai guardato i video dimostrativi, saprai che ChatGPT ha fatto molta strada come essere umano, soprattutto quando si tratta di parlare. Le versioni precedenti di ChatGPT potevano parlare, ma la loro consegna era sempre un po' troppo perfetta, robotica e priva di emozioni. Sapresti che stavi parlando con un'intelligenza artificiale.
Questo nuovo modello, tuttavia, potrebbe ingannare anche il critico più severo. Ridacchia quando racconti una barzelletta, dice "um" e "uh", cambia tono, esita prima di parlare e fa praticamente ogni altra cosa che farebbe un vero essere umano quando parla.
In effetti, ChatGPT ora è così buono che sono tentato di trattarlo come una persona reale anche se nella mia testa so che non lo è. Questo è ciò che chiamiamo antropomorfismo: la tendenza ad assegnare tratti umani a oggetti non umani.
La cosa divertente è che ChatGPT non finge nemmeno di essere umano, e devo già ricordarmi di non antropomorfizzarlo. Quella battaglia diventa ancora più difficile quando entri nell'oscuro mondo di AI Friends.
Un esempio importante di questi amici dell'intelligenza artificiale è Replika. Il punto di vista di Replika è che ti consente di creare Avatar che possono agire come qualsiasi cosa, dal tuo amico a un terapista, a un partner romantico. Puoi quindi scambiare messaggi con questi avatar, parlare con loro durante una videochiamata o persino interagire con loro tramite AR e VR.
C'è anche "Friend", un set indossabile con intelligenza artificiale che verrà lanciato nel 2025 e che dovrebbe offrire all'utente compagnia costante, supporto emotivo e assistenza.
La compagnia dell’intelligenza artificiale non è intrinsecamente negativa, ma…
La compagnia dell'intelligenza artificiale non è un'idea intrinsecamente negativa e, a pensarci bene, riesco a pensare ad alcuni casi in cui sarebbe effettivamente utile.
Uno è la gestione del dolore. I chatbot con intelligenza artificiale potrebbero aiutarti a elaborare la perdita di una persona cara e fornire supporto emotivo durante il periodo di lutto. Infatti, l'amministratore delegato di Replika, Eugenia Kuyda, ha rivelato che l'idea di Replika le è venuta per la prima volta in risposta alla perdita di un caro amico.
I compagni di intelligenza artificiale potrebbero anche essere un vantaggio per le persone che lottano con la solitudine. Immagina una persona anziana in una casa di cura. Un compagno di intelligenza artificiale potrebbe aiutare a scongiurare sentimenti di solitudine tra una visita e l’altra della famiglia.
Potrebbero anche essere utili per le persone con ansia sociale, poiché possono usarli per esercitarsi nelle conversazioni senza doversi preoccupare che le persone li giudichino o ridacchino alle loro spalle come tendono a fare gli umani.
Ma mentre i compagni di intelligenza artificiale potrebbero avere una reale utilità, ci sono ancora dei rischi nello stabilire relazioni con loro.
Potresti facilmente diventare dipendente dal tuo compagno AI
Nel suo rapporto sulla sicurezza su GPT-4o, Open AI ha affermato che la socializzazione di tipo umano con l’intelligenza artificiale potrebbe ridurre la necessità di interazione umana e possibilmente influenzare relazioni sane.
Questo è un eufemismo. Per dirlo chiaramente, trattare l’intelligenza artificiale come una compagna potrebbe portare a sviluppare una dipendenza emotiva o, peggio, qualcosa di simile a una dipendenza.
La semplice verità è che, a parte l'assistenza fisica, i compagni di intelligenza artificiale possono essere migliori amici per te di quanto potrebbe fare qualsiasi essere umano. Sono sempre disposti a chiacchierare, indipendentemente da quanto sia tarda l'ora, e non si stancheranno, si annoieranno o non si distrarranno mai. Tu sei sempre la priorità nella conversazione e, finché sei disposto ad andare avanti, il compagno AI è lì per ascoltare e rispondere. D'altra parte, gli amici umani sono limitati dalla necessità di dormire e lavorare e non possono essere sempre presenti quando ne hai bisogno.
Parlare ogni volta con i compagni IA è un'esperienza così bella che crea una sorta di rinforzo positivo. Il tuo cervello sa che ogni volta che chatti con l'intelligenza artificiale ti sentirai bene con te stesso, quindi lo brama sempre di più e, prima che tu te ne accorga, ne diventi dipendente.
Questa non è solo una congettura, sta già accadendo. Nel 2023, Replika è stata costretta a ripristinare le funzionalità di gioco di ruolo erotico nella sua app, dopo che la sua base di utenti si è ammutinata quando sono state rimosse. Alcuni utenti hanno addirittura affermato di aver sofferto di crisi di salute mentale a causa di ciò.
Ora, ammetto che mi sono arrabbiato molto quando Google ha eliminato la mia funzionalità Android preferita senza preavviso. Ma non tanto da innescare una crisi mentale. E se sei così attaccato a un’intelligenza artificiale che la sua perdita può causare ciò, forse è il momento di rivalutare il tuo rapporto con quell’intelligenza artificiale.
Il tuo compagno AI potrebbe insegnarti cattive abitudini
L’antropomorfizzazione dell’intelligenza artificiale può confondere i confini tra gli esseri umani e l’intelligenza artificiale, e questo potrebbe indurti a iniziare a trattare le persone nella vita reale nel modo in cui tratti l’intelligenza artificiale.
Ad esempio, quando parli con ChatGPT, si rimette sempre a te. Quindi, anche se stai spiegando qualcosa, puoi intervenire e l'intelligenza artificiale ti lascerà avere la parola senza rancore. Potresti trasferire accidentalmente quel comportamento nella vita reale, tranne per il fatto che i tuoi amici umani non saranno così indulgenti come un'intelligenza artificiale.
Le cattive abitudini che potresti imparare dai compagni di intelligenza artificiale potrebbero non essere tutte così benefiche come interrompere una conversazione. Ad esempio, potresti abituarti a essere al centro dell’attenzione nelle tue conversazioni con l’intelligenza artificiale e questo potrebbe indebolire la tua capacità di mantenere relazioni sane con persone reali.
Temo anche che, dal momento che queste IA sono così gradevoli, possano farti aspettarti una costante approvazione da parte degli altri e quindi avere difficoltà ad accettare il rifiuto o il disaccordo quando inevitabilmente si verificano.
Il tuo compagno AI potrebbe rivelare i tuoi segreti
La privacy è un altro grande motivo per diffidare dei compagni di intelligenza artificiale. Per quanto possa sembrare che tu stia chattando con un amico, i compagni di intelligenza artificiale sono macchine e raccolgono informazioni su di te per migliorare la loro efficienza. Ecco perché ci sono alcune cose per le quali non dovresti mai usare ChatGPT.
Certo, queste società di intelligenza artificiale promettono che le tue conversazioni sono sicure, ma non possono sempre garantirlo. Cosa succede se vengono hackerati e le tue conversazioni vengono scoperte? E cosa succederebbe se l'FBI chiedesse di vedere i registri delle tue conversazioni? Almeno con un amico umano, è la tua parola contro la loro. Con i compagni IA, la verità è in chiaro e tutti possono vederla.
In definitiva, i chatbot AI sono prodotti
Che l’intelligenza artificiale sia commercializzata come amica, fidanzata, terapista o compagna, è pur sempre un prodotto di proprietà di un’azienda il cui obiettivo è fare soldi.
Proprio come Microsoft vende Windows, aziende come OpenAI vendono i loro chatbot. Ma ciò che li rende diversi dagli altri prodotti è il legame emotivo che potresti formare con loro, ed è qui che le cose possono diventare rischiose.
Gli esseri umani non sempre prendono le decisioni migliori quando sono coinvolte le emozioni, e rimarresti sorpreso di quanto potresti fare per mantenere una connessione emotiva, anche se è con l'intelligenza artificiale. Non penso che una società privata, il cui scopo principale (nonostante tutto il bel marketing) è il profitto, dovrebbe avere quel grado di controllo su di te.
I compagni IA, per quanto strano possa sembrare, non sono una cattiva idea. Sicuramente hanno i loro vantaggi nei giusti contesti. Ma il settore è ancora agli inizi e stiamo definendo le regole man mano che procediamo. Ecco perché è importante essere consapevoli dei rischi che derivano dal trattare l’intelligenza artificiale come un’amica.