Abbiamo bisogno di menti audaci per sfidare l’intelligenza artificiale, non di scrittori pigri e tempestivi, afferma il CIO delle banche

Cercasi: pensatori critici con prospettive e competenze per interpretare i risultati generati dall'intelligenza artificiale. (Coloro che fanno eccessivo affidamento su ChatGPT non devono presentare domanda.)

Dopo che il rapporto del 2023 dell'azienda leader Boston Consulting Group ha rilevato che i loro consulenti IT erano più produttivi utilizzando lo strumento GPT-4 di Open AI, l'azienda e altri giganti del settore hanno ricevuto una reazione negativa da parte di alcuni commentatori secondo cui si dovrebbe semplicemente utilizzare ChatGPT gratuitamente invece di mantenere servizi di consulenza per milioni di persone. dollari.

Ecco il loro ragionamento: i consulenti ben pagati riceveranno comunque le loro risposte o i loro consigli da ChatGPT, quindi dovrebbero evitare terze parti e andare direttamente a ChatGPT.

C'è una lezione preziosa per chiunque assuma o cerchi di essere assunto per lavori ad alta intensità di intelligenza artificiale, siano essi sviluppatori, consulenti o utenti aziendali. Il messaggio di questa critica è che chiunque, anche con competenze limitate o insufficienti, ora può utilizzare l’intelligenza artificiale per andare avanti o sembrare come se fosse in cima alle cose. Per questo motivo, il campo di gioco è stato livellato. Sono necessarie persone in grado di fornire prospettiva e pensiero critico alle informazioni e ai risultati forniti dall’intelligenza artificiale.

Anche scienziati, tecnologi ed esperti in materia potrebbero cadere nella trappola di fare troppo affidamento sull’intelligenza artificiale per i loro risultati, anziché sulla propria esperienza.

"Le soluzioni di intelligenza artificiale possono anche sfruttare i nostri limiti cognitivi, rendendoci vulnerabili alle illusioni di comprensione in cui crediamo di comprendere il mondo più di quanto in realtà comprendiamo", secondo una ricerca sull'argomento pubblicata su Nature.

Anche gli scienziati addestrati a rivedere criticamente le informazioni stanno cadendo nel fascino delle intuizioni generate dalle macchine, avvertono i ricercatori Lisa Messer dell’Università di Yale e M. J. Crockett dell’Università di Princeton.

"Tali illusioni oscurano la capacità della comunità scientifica di vedere la formazione di monoculture scientifiche, in cui alcuni tipi di metodi, domande e punti di vista arrivano a dominare approcci alternativi, rendendo la scienza meno innovativa e più vulnerabile agli errori", afferma la loro ricerca.

Messer e Crockett affermano che, al di là delle preoccupazioni sull’etica dell’IA, sui pregiudizi e sullo spostamento del lavoro, i rischi di un eccessivo affidamento sull’IA come fonte di competenze stanno solo iniziando a essere conosciuti.

Nei contesti aziendali tradizionali, ci sono conseguenze derivanti dall’eccessiva dipendenza degli utenti dall’intelligenza artificiale, dalla perdita di produttività e dalla fiducia mal riposta. Ad esempio, gli utenti "possono alterare, cambiare e cambiare le loro azioni per allinearsi alle raccomandazioni dell'intelligenza artificiale", osservano Samir Passi e Mihaela Vorvoreanu di Microsoft in una panoramica degli studi sull'argomento. Inoltre, gli utenti "troveranno difficile valutare le prestazioni dell'intelligenza artificiale e capire come l'intelligenza artificiale influisce sulle loro decisioni".

Questo è il pensiero di Kyall Mai, responsabile dell'innovazione presso Esquire Bank, che vede l'intelligenza artificiale come uno strumento fondamentale per il coinvolgimento dei clienti, mettendo in guardia contro il suo uso eccessivo come sostituto dell'esperienza umana e del pensiero critico. Esquire Bank fornisce finanziamenti specializzati agli studi legali e desidera persone che comprendano il business e cosa può fare l'intelligenza artificiale per far avanzare il business. Recentemente ho incontrato Mai alla conferenza di Salesforce a New York, che ha condiviso le sue esperienze e prospettive sull'intelligenza artificiale.

Mai, che ha scalato i ranghi da programmatore a CIO dalle molteplici sfaccettature, non sostiene che l'intelligenza artificiale sia forse uno degli strumenti di miglioramento della produttività più preziosi che si presenteranno. Ma è anche preoccupato che fare troppo affidamento sull’intelligenza artificiale generativa - sia per i contenuti che per il codice - diminuirà la qualità e l’acutezza del pensiero delle persone.

"Ci rendiamo conto che avere cervelli e risultati fantastici non è necessariamente altrettanto positivo quanto qualcuno che è disposto ad avere un pensiero critico e a fornire il proprio punto di vista su ciò che l'intelligenza artificiale e l'intelligenza artificiale generativa restituiscono in termini di raccomandazioni", afferma. "Vogliamo persone che abbiano emotività e consapevolezza di sé per dire, 'hmm, non mi sembra del tutto giusto, sono abbastanza coraggioso da avere una conversazione con qualcuno, per assicurarmi che ci sia un essere umano nel giro.'"

Esquire Bank sta utilizzando gli strumenti Salesforce per abbracciare entrambi gli aspetti dell'intelligenza artificiale: generativo e predittivo. L'intelligenza artificiale predittiva fornisce ai decisori della banca informazioni su "quali avvocati stanno visitando il loro sito e aiuta a personalizzare i servizi in base a queste visite", afferma Mai, il cui ruolo di CIO abbraccia sia il coinvolgimento dei clienti che i sistemi IT.

In quanto banca completamente virtuale, Esquire utilizza molti dei suoi sistemi di intelligenza artificiale nei team di marketing, fondendo contenuti generativi forniti dall'intelligenza artificiale con algoritmi di intelligenza artificiale predittiva back-end.

"L'esperienza è diversa per ognuno", afferma Mai. "Quindi utilizziamo l'intelligenza artificiale per prevedere quale dovrebbe essere il prossimo insieme di contenuti consegnati loro. Si basano su tutte le analisi dietro e nel sistema su cosa possiamo fare con quel particolare potenziale cliente."

Lavorando a stretto contatto con l’intelligenza artificiale, Mai ha scoperto un’interessante svolta nella natura umana: le persone tendono a ignorare il proprio giudizio e la propria diligenza man mano che diventano dipendenti da questi sistemi. "Ad esempio, abbiamo scoperto che alcuni esseri umani diventano pigri: suggeriscono qualcosa e poi decidono: 'ah, sembra davvero un'ottima risposta' e lo inviano."

Quando Mai percepisce quel livello di eccessiva dipendenza dall'intelligenza artificiale, "li manderò nel mio ufficio, dicendo: 'Ti sto pagando per il tuo punto di vista, non per un suggerimento e una risposta nell'intelligenza artificiale a cui mi farai". leggi. Prendere semplicemente i risultati e restituirmelo non è quello che cerco, mi aspetto il tuo pensiero critico."

Tuttavia, incoraggia i membri del suo team tecnologico a scaricare le banali attività di sviluppo su strumenti e piattaforme di intelligenza artificiale generativa e a liberare il proprio tempo per lavorare a stretto contatto con l'azienda. "I programmatori stanno scoprendo che il 60% del tempo che dedicavano alla scrittura era dedicato a codice amministrativo che non è necessariamente innovativo. L'intelligenza artificiale può farlo per loro, tramite comandi vocali."

Di conseguenza, vede "il confine tra un programmatore classico e un analista aziendale fondersi molto di più, perché il programmatore non trascorre un'enorme quantità di tempo a fare cose che in realtà non hanno valore aggiunto. Significa anche che gli analisti aziendali possono diventare sviluppatori di software."

"Sarà interessante quando potrò sedermi davanti a una piattaforma e dire: 'Voglio un sistema che faccia questo, questo, questo e questo', e lo fa."