20 cose da considerare prima di offrire un chatbot AI ai tuoi clienti
Chevrolet di Watsonville ha utilizzato ChatGPT per il servizio clienti. Non essere come la Chevrolet di Watsonville. Le cose non sono andate bene.
Chiunque abbia mai acquistato un'auto potrebbe trovare difficile provare simpatia nei confronti di un concessionario di automobili, ma devi provarlo per le persone di una concessionaria Chevy che hanno messo in campo una versione di ChatGPT per potenziali acquirenti di auto. Come riportato, tra gli altri, da Inc., Yahoo Finance e Driving.ca, la concessionaria Chevrolet di Watsonville, in California, ha creato un chatbot personalizzato che è andato rapidamente fuori strada.
Gli utenti sono riusciti in vari modi a convincere il chatbot a offrire una Chevy Tahoe del 2024 (all'incirca un camion da $55.000) per un dollaro, a convincerlo a consigliare l'acquisto da Ford invece che a Chevy e a scrivere limerick che cantavano le lodi della Toyota Tundra (un altro concorrente della Chevy). ).
In una dichiarazione su Driver.ca attribuita a "Chevrolet" (non sappiamo se è la società principale o il concessionario che si occupa del controllo dei danni), la società ha affermato:
I recenti progressi nell’intelligenza artificiale generativa stanno creando incredibili opportunità per ripensare i processi aziendali in GM, nelle nostre reti di concessionari e non solo. Apprezziamo sicuramente il modo in cui i chatbot possono offrire risposte che creano interesse quando vengono forniti una serie di suggerimenti, ma è anche un buon promemoria dell'importanza dell'intelligenza umana e dell'analisi con i contenuti generati dall'intelligenza artificiale.
Vedi cosa intendo? Qualcuno ha sicuramente avuto una brutta giornata. Ma, per essere sicuri che tu non abbia una giornata altrettanto brutta, abbiamo compilato un elenco di 20 cose che dovresti considerare prima di aprire un'intelligenza artificiale ai tuoi clienti.
Non tratterò le macchinazioni tecniche necessarie per far sì che l'intelligenza artificiale rispetti queste linee guida, perché ciò differirà da implementazione a implementazione. Ma tutto ciò che suggerisco è fattibile, tramite API AI o con strumenti specifici destinati a creare chatbot personalizzati.
Cominciamo, ok?
1. Stabilire i limiti per i tipi di query che l'intelligenza artificiale può gestire
Rispetto ai sistemi esperti della vecchia scuola, addestrati su set specifici di informazioni, la maggior parte dei chatbot basati sull’intelligenza artificiale utilizzano una formazione non supervisionata, il che significa che possono accedere praticamente a qualsiasi cosa. Non permetterlo. Addestra la tua intelligenza artificiale solo su informazioni specifiche del contesto e quindi limita i tipi di risposte che può fornire.
2. Condurre test approfonditi in un ambiente controllato prima del rilascio al pubblico
Non lasciare che i tuoi dipendenti lo testino. Porta gli amici e chiedi loro di scatenarsi con ciò che chiedono. Prova, prova ancora e poi prova ancora.
3. Valutare la capacità dell'IA di gestire questioni complesse o delicate
Assicurati di esaminare attentamente i risultati dei test preliminari e di apportare tutte le modifiche che si rivelano necessarie. Ma non limitare i test a semplici prove. Assicurati di spingere oltre i limiti dell'intelligenza artificiale e vedere come risponde ai casi limite. In questo modo puoi sviluppare guard rail che impediscono all'IA di sconfinare in territori pericolosi.
4. Pianificare implementazioni graduali per gestire le aspettative e il feedback dei clienti
Non troverai ancora tutti i difetti, nonostante i tuoi test. Quando implementi la tua IA, limitala a gruppi controllati. Ma attenzione: non limitarlo solo ai client conformi. Trova una classe del liceo e lasciala impazzire nella tua intelligenza artificiale e guarda cosa fa. Prendi alcuni estranei curiosi e dispettosi e chiedi loro di trovare i difetti. Quindi passa a un altro piccolo gruppo e vedi se noti qualche comportamento strano. Fallo lentamente, magari solo su invito.
5. Prepararsi a interazioni e query impreviste dell'utente
Anche con tutto ciò, otterrai risultati inaspettati. Avrai bisogno di un modo per implementare piccoli miglioramenti man mano che vedi come funziona l'intelligenza artificiale. Assicurati che gli sviluppatori siano coinvolti per il miglioramento continuo e assicurati anche di registrare informazioni sufficienti per consentire agli sviluppatori di tracciare qualsiasi comportamento non pianificato.
6. Preparare un piano di emergenza per guasti o errori dell'IA
Crea un piano di escalation e di risposta rapida se l’intelligenza artificiale inizia a uscire dai binari. Assicurati di avere un modo per disattivarlo rapidamente e quindi un modo per inoltrare i dettagli agli sviluppatori per risolvere ciò che è andato storto.
7. Creare termini di servizio concisi e un accordo clickwrap obbligatorio per l'accettazione da parte dell'utente
Questo può essere presentato come parte di un processo di creazione di un account, prima che l'interfaccia AI venga fornita all'utente. Consente a te (e ai tuoi avvocati) di specificare i limiti legali dell'esperienza e di sconfessare qualsiasi comportamento o promessa inaspettata fatta dall'IA. È il tuo piano di protezione posteriore, nel caso in cui l'intelligenza artificiale impazzisca come ha fatto per Chevrolet di Watsonville quando ha cercato di vendere un camion per un dollaro.
8. Valutare e migliorare continuamente le prestazioni dell'IA
Assicurati di integrare il monitoraggio nel tuo processo. Potresti voler essere sicuro che un essere umano controlli ogni interazione che l'intelligenza artificiale ha con i clienti, in modo da essere in grado di capire esattamente cosa dicono e viene detto ai tuoi clienti. Assicurati di avere un modo per fornire input agli sviluppatori in modo che i miglioramenti possano essere implementati rapidamente.
9. Personalizza l'intelligenza artificiale per riflettere la voce e i valori del marchio
È probabile che la tua azienda (o, almeno, il produttore di cui vendi i prodotti) abbia linee guida sull'identità del marchio definite con molta attenzione. Assicurati che l'IA segua queste linee guida. Assicurati di formare il personale che esegue il monitoraggio sulle linee guida del marchio in modo che possano monitorare anche l'attività dell'intelligenza artificiale dal punto di vista dell'identità del marchio.
10. Monitorare l'IA per individuare pregiudizi non intenzionali o comportamenti discriminatori
Allo stesso modo, forma il personale di monitoraggio su come identificare pregiudizi e comportamenti discriminatori. Come parte del regolare processo di monitoraggio e controllo, fai attenzione a questo comportamento e segnala agli sviluppatori tutto ciò che deve essere risolto. Tieni inoltre presente che, se il comportamento è particolarmente grave, questo è un modo in cui il tuo staff può contattare il cliente o il potenziale cliente in questione per controllare i danni prima che la situazione possa degenerare.
11. Sii trasparente con i clienti riguardo all’uso dell’intelligenza artificiale
Assicurati di essere chiaro con i clienti quando interagiscono con un'intelligenza artificiale. Questo ti aiuterà a stabilire le aspettative e ti darà una sorta di "via d'uscita" se l'intelligenza artificiale non risponde come previsto. Spiegare che l'intelligenza artificiale è una funzionalità sperimentale o un'offerta di servizi bonus.
12. Valutare regolarmente l'impatto dell'intelligenza artificiale sulla soddisfazione del cliente
Alcuni clienti saranno entusiasti di provare le nuove funzionalità dell’intelligenza artificiale, ma altri lo troveranno strano o disumanizzante. Assicurati di mostrare sensibilità verso queste variazioni nelle risposte e di offrire ai clienti che non desiderano utilizzare l'intelligenza artificiale un canale alternativo per ottenere aiuto. Infatti…
13. Fornire ai clienti un'opzione semplice per ottenere supporto umano
Non vuoi che i clienti si sentano intrappolati in una sorta di purgatorio dei robot IA. Assicurati che ci sia un percorso chiaro e semplice attraverso il quale gli esseri umani possano raggiungere altri esseri umani, sia tramite interazione telefonica che via SMS. E, qualunque cosa tu faccia, non dire alle persone che stanno parlando con una persona quando in realtà stanno parlando con un bot.
14. Implementare un meccanismo di feedback affinché i clienti possano segnalare problemi o suggerimenti
Anche i clienti che pensano che l'esperienza dell'intelligenza artificiale sia interessante potrebbero avere feedback, suggerimenti o reclami. Fornire un modo semplice per raccogliere il feedback come parte dell'interazione con l'intelligenza artificiale. ChatGPT, ad esempio, ha un pulsante pollice su/pollice giù dopo ogni risposta dell'intelligenza artificiale, insieme a un modo per consentire agli utenti di fornire maggiori dettagli sul motivo per cui hanno dato alla risposta quella valutazione.
15. Valutare e adattare il tono e lo stile di comunicazione dell'IA in base al feedback dei clienti
Un'intelligenza artificiale è in grado di mettere a punto il proprio stile di comunicazione modificando fattori come formalità, cordialità, complessità del vocabolario e tono generale. Ciò comprende non solo le parole scelte, ma anche lo stile e l'approccio della comunicazione, che sia più informale o professionale, diretto o elaborato, empatico o obiettivo. In base al feedback dei tuoi clienti, modifica il modo di parlare dell'intelligenza artificiale per soddisfare al meglio ciò con cui si sentono più a loro agio.
16. Sviluppare protocolli per la gestione delle informazioni sensibili dei clienti tramite l'intelligenza artificiale
Siamo tutti molto consapevoli della necessità di sicurezza, soprattutto perché sempre più criminali tentano di hackerare, o riescono ad hackerare, le aziende. Le informazioni raccolte dall’IA devono essere protette. Sviluppa attentamente protocolli di sicurezza per garantire che l’intelligenza artificiale ponga il minor numero di domande possibile quando richiede informazioni personali e quindi protegga tutte le informazioni raccolte.
17. Formare il personale su come lavorare insieme al sistema di intelligenza artificiale
Abbiamo parlato in precedenza dell'assegnazione del personale al controllo continuo delle risposte dell'intelligenza artificiale, ma non abbiamo menzionato specificamente la formazione. Non solo le persone che eseguono gli audit dovranno essere completamente addestrate, ma tutto il personale avrà bisogno di formazione su come utilizzare l'intelligenza artificiale, i suoi limiti, come individuare i problemi, come intensificare quando vengono rilevati problemi gravi e come comunicare le aspettative. e limiti ai clienti. Idealmente, la formazione dovrebbe essere un processo continuo, con formazione introduttiva e aggiornamenti regolari man mano che la tecnologia si evolve.
18. Considerare l'impatto dell'IA sull'occupazione e sui ruoli del personale
Indubbiamente, l’introduzione di soluzioni di servizio clienti basate sull’intelligenza artificiale preoccuperà i membri del tuo team riguardo alla loro sicurezza lavorativa a lungo termine. È qui che devi essere completamente trasparente con i dipendenti, stabilire aspettative e tenere presente che hai a che fare con persone reali con responsabilità, famiglie e sentimenti. Assicuratevi di leggere il rapporto speciale di ZDNET, Il futuro dell'intelligenza artificiale, del lavoro e dell'automazione, per una copertura e un'analisi molto approfondite di questa complessa questione.
19. Aggiornare e mantenere regolarmente il sistema di intelligenza artificiale
L’intelligenza artificiale, in particolare l’intelligenza artificiale generativa, si sta evolvendo a grande velocità. Assicurati di pianificare la manutenzione e gli aggiornamenti regolari dei tuoi sistemi di intelligenza artificiale. Qualcosa che è all'avanguardia a gennaio potrebbe essere indietro di tre generazioni entro giugno.
20. Garantire il rispetto delle leggi e dei regolamenti pertinenti
Ogni settore è diverso, quindi dovrai effettuare ricerche in base al tipo di attività e alla posizione. Assicurati di verificare con i tuoi avvocati per essere sicuro che i tuoi sforzi di intelligenza artificiale (e le risposte suscitate dall'intelligenza artificiale) rientrino nei limiti dei tuoi requisiti legali.
Wow! Bene, ecco qua. Venti cose da considerare prima di consentire ai tuoi clienti di incontrare la tua IA. Se segui queste linee guida, puoi evitare molti dei problemi che affliggono Chevrolet di Watsonville.
Cosa ne pensi? Ho tralasciato qualcosa? Stai implementando un'intelligenza artificiale nella tua azienda? Hai qualche storia interessante da raccontare? Fatecelo sapere nei commenti qui sotto.
Puoi seguire gli aggiornamenti quotidiani sui miei progetti sui social media. Assicurati di iscriverti alla mia newsletter di aggiornamento settimanale su Substack e seguimi su Twitter su @DavidGewirtz, su Facebook su Facebook.com/DavidGewirtz, su Instagram su Instagram.com/DavidGewirtz e su YouTube su YouTube.com/DavidGewirtzTV.