I primi ad adottarli stanno già implementando agenti IA nelle aziende, con un’adozione su larga scala nel 2025

Esperti di tecnologia, innovazione e strategia condividono i loro punti di vista sull'adozione degli agenti IA e sul futuro dell'impresa autonoma basata sull'intelligenza artificiale.

Un insieme di risorse di intelligenza artificiale (AI) in continuo miglioramento nel prossimo decennio è destinato ad avere un enorme impatto sulle imprese e sulla forza lavoro umana.

Inizialmente, l’intelligenza artificiale avrà un effetto ampiamente incrementativo, assumendo compiti di scarso valore e consentendo agli esseri umani di concentrare gli sforzi su lavori più strategici e creativi. Tuttavia, l’impresa basata sull’intelligenza artificiale basata sull’agente si sta evolvendo a una velocità senza precedenti in termini di direzione e velocità.

Quelli che descriviamo come i sei livelli di lavoro autonomo si riferiscono ai livelli di maturità degli assistenti AI rispetto agli agenti AI. Per comprendere meglio le previsioni di adozione e l’impatto degli assistenti e degli agenti IA sul posto di lavoro, gli agenti IA sono resi possibili dall’emergere di modelli linguistici di grandi dimensioni (LLM) che consentono una profonda comprensione del linguaggio, ragionamento e processo decisionale.

Tuttavia, è necessario affrontare alcune limitazioni affinché gli agenti possano essere adottati in azienda, tra cui la mancanza di accesso ai dati privati e la mancanza di una capacità intrinseca di agire. Affinché l’adozione degli agenti aumenti, queste preoccupazioni devono essere affrontate.

Gli agenti possono avere diversi livelli di autonomia. Gli agenti assistivi (a volte chiamati copiloti) collaborano con gli esseri umani, migliorando le capacità anziché agire da soli. I copiloti spesso richiedono input e feedback umani per perfezionare suggerimenti o azioni.

Gli agenti autonomi operano in modo indipendente senza la diretta supervisione umana. Una versione ibrida di questi agenti, a differenza di altri agenti completamente autonomi, può affidare senza problemi i compiti agli esseri umani secondo necessità. Guardrail adeguati sono fondamentali per garantire l’affidabilità, il rispetto delle pratiche commerciali, la sicurezza e la privacy dei dati, nonché per prevenire allucinazioni, tossicità e contenuti dannosi.

Ho parlato con due analisti di tecnologia e innovazione e strateghi del mercato aziendale per comprendere meglio l'adozione da parte delle aziende degli agenti di intelligenza artificiale, le sfide, le opportunità e le previsioni per l'implementazione mainstream.

Michael Maozis, vicepresidente senior della strategia di innovazione presso Salesforce. Prima di entrare in Salesforce, Maoz è stato vicepresidente della ricerca e illustre analista presso l'analista Gartner, ricoprendo il ruolo di leader della ricerca per l'area del servizio clienti e delle strategie di supporto.

Ed Thompson è vicepresidente senior della strategia di mercato presso Salesforce. Prima di entrare in Salesforce, Thompson è stato vicepresidente della ricerca e illustre analista presso Gartner, occupandosi dell'esperienza del cliente (CX) e della strategia e implementazione CRM. Maoz e Thompson hanno condiviso i loro punti di vista sul futuro degli agenti IA nelle aziende.

Gli agenti IA sono alle porte, ma è solo agli inizi. Quando pensi che diventeranno mainstream e dove?

Ed Thompson (ET):Penso che per diventare mainstream ci vorrà più tempo di quanto si pensi. Non a causa di limitazioni tecniche, ma piuttosto a causa dell'adozione e del cambiamento delle abitudini. In parole povere, gli agenti possono essere assistenti dei dipendenti o sostituirli. Nel primo caso, sono come le PA, e sono già qui, non in una forma perfetta ma entro i prossimi cinque anni, direi che quasi tutti gli impiegati e alcuni colletti blu vedranno le domande che hanno l'utilizzo avrà assistenti integrati che aiutano a ridurre il tempo dedicato a compiti laboriosi, ma il dipendente sarà comunque presente e avrà ancora il controllo.

Nel secondo caso sostituiscono i dipendenti. Sostituire un intero lavoro è un compito difficile: richiederà molto tempo, a meno che il lavoro non sia odiato e altamente ripetitivo. Scommetto che ci vorranno 10 anni prima che ciò accada nel mainstream. E scommetto che sono le startup a realizzarlo, che possono riprogettare il lavoro da zero con molti dipendenti digitali piuttosto che le imprese esistenti. Penso agli intermediari di viaggio, agli agenti assicurativi o ai consulenti finanziari che hanno, diciamo, solo due dipendenti umani ma una dozzina di agenti digitali e sembrano un'azienda con 20 dipendenti.

Michael Maoz (MM): La questione su quali casi d'uso saranno i primi è diversa, sebbene sia correlata alla questione di quando vedremo un'adozione su vasta scala. Sono d'accordo che l'uso iniziale di agenti IA come Salesforce Agentforce Service Agent sarà destinato all'abbondante numero di casi d'uso a basso rischio e complessità, come la raccolta automatica delle informazioni necessarie a un agente del servizio clienti per gestire una chat o una telefonata e visualizzare tali informazioni sullo schermo.

L'agente AI utilizzerà un grafico della conoscenza per presentare il contenuto mirato di cui l'agente umano ha bisogno per aiutare il cliente. Un altro agente AI formulerà un'e-mail o un messaggio di follow-up affinché l'agente umano possa verificare e approvare. Al termine dell'interazione, un altro agente AI riassumerà la conversazione.

Un’altra serie di casi d’uso riguarderà la prossima generazione di chatbot. Gli attuali chatbot hanno basi di conoscenza rigide e cercano di indovinare le intenzioni del cliente, e sono scarsi nel gestire interazioni multimodali che richiedono immagini e altri media. I bot emergenti degli agenti IA hanno risposte di conoscenza intelligenti, con questo intendiamo che non solo rispondono alle domande ma eseguono anche azioni. Si basano su LLM, certo, ma le istruzioni sono molto più ricche sotto diversi aspetti. Ecco quattro caratteristiche molto interessanti dei nuovi prompt:

• I prompt conoscono il ruolo della persona che chiede (o le autorizzazioni di un altro agente AI che sta chiedendo) e possono consentire l'accesso a determinate informazioni per la risposta e non ad altre.
• I suggerimenti utilizzano la modellazione avanzata del linguaggio naturale e sono multimodali e possono concentrarsi sulla conoscenza rilevante per il contesto specifico, rispondendo con una combinazione di testo, audio e immagini.
• I suggerimenti possono eseguire una serie di azioni, ad esempio "visualizzare il modulo di richiesta di risarcimento" o "recuperare lo stato dell'ordine" o analizzare la foto allegata.
• I prompt possono agire in base alle regole sulla privacy, sulla conformità o su qualsiasi normativa di settore.

Un prezioso effetto collaterale di questo filtraggio è che la potenza di calcolo viene notevolmente ridotta, il che è positivo per l’ambiente.

Anche se ho menzionato il servizio clienti, ci sono dozzine di altri usi come creare e-mail di follow-up sulle vendite, esplorare un gruppo di telefonate, creare segmenti di marketing dinamici e il messaggio giusto per ogni segmento e, per i programmatori, tradurre il linguaggio naturale in codice.

Quegli esempi riguardavano tutti il "cosa". Per prevedere quando gli agenti IA diventeranno mainstream, possiamo guardare a questo in termini di Crossing the Chasm di Geoffrey Moore. Secondo lui ci sono innovatori tecnologici, di solito con una percentuale bassa di tutti i leader IT, che vanno avanti e abbracciano le nuove tecnologie. Dietro queste innovative truppe d’assalto ci sono i primi ad adottarli che vedono i loro colleghi innovativi e vogliono copiare i loro successi.

Ad un livello elevato, ad un certo punto nei prossimi trimestri, il fascino per gli agenti di intelligenza artificiale che ha spinto gli early adopter lascerà il posto a una conversazione più ampia tra gli early adopter sui budget e sulla larghezza di banda dell’innovazione. La maggior parte delle aziende ha una capacità molto limitata di riallocare le risorse su nuovi progetti IT che richiedono nuovi processi e nuovi rapporti con i fornitori. Lo faranno quando c’è la promessa di capacità radicalmente nuove, come nuovi modelli di business per i quali esiste un’alta probabilità di crescita dei ricavi o di efficienza operativa.

A meno che un rallentamento economico non ostacoli il ciclo di innovazione tecnologica, dovremmo vedere i primi utilizzatori iniziare a implementare piani per progetti di agenti IA su larga scala entro la fine del 2024 e, con le storie di successo più comprese in tutti i settori, possiamo aspettarci di vedere il secondo metà del 2025 sarà il momento in cui vi sarà un’adozione più diffusa di programmi per agenti di intelligenza artificiale scalati e coordinati in più dipartimenti e linee di business.

Ciò ci lascia con la maggior parte degli acquirenti – oltre l’80% – che restano seduti finché le implicazioni del cambiamento IT non saranno meglio conosciute, i vantaggi aziendali saranno più chiari e i costi reali non potranno essere pianificati in modo più affidabile.

L'intelligenza artificiale generativa (Gen AI) è con noi da 18 mesi, ma molte aziende ci hanno provato e molte hanno fallito. Alcuni potrebbero chiamare questo processo sperimentazione, poiché solo il 9% ha esteso i casi d’uso a un gran numero di dipendenti. Qual è la causa del problema di ampliamento?

ET: Beh, ci sono problemi di sicurezza, parzialità, tossicità, barriere di governance, conformità alle normative, copyright e provenienza dei dati, costo degli strumenti e, più recentemente, questioni legate all'uso energetico di Gli LLM e l'impatto sugli obiettivi di sostenibilità. Ma il problema principale è, ovviamente, l’imprecisione nelle risposte causata dai dati su cui si fondano i modelli. Le fonti e la qualità dei dati sono le cause principali.

Ho parlato con aziende che hanno ottenuto risposte accurate al 40% durante i primi test e hanno scoperto che man mano che i modelli imparano e quando eliminano i dati di scarsa qualità e aggiungono fonti di dati migliori, la precisione migliora del 5% a settimana. Ciò non significa che i dipendenti siano accurati al 100%, ma è necessario almeno corrispondere in termini di accuratezza a ciò che fanno i dipendenti. Il risultato è che molti dipendenti vedono la prima serie di risposte suggerite, e-mail o riepiloghi e concludono che è spazzatura e si rifiutano di adottarla. Quindi, la sfida per i professionisti è spesso se tagliare e correre e passare a un altro caso d’uso che ha maggiori probabilità di produrre vantaggi o concedergli il tempo di apprendere e fornire nuove fonti di dati?

MM: Ci sono alcune realtà con cui le aziende devono confrontarsi nella Gen AI. Il primo è la necessità di ridurre i rischi in ogni progetto di Gen AI. Per fare ciò, è necessaria una buona governance dei dati, in modo che i dati per l’intelligenza artificiale possano essere considerati attendibili. Quindi devi essere in grado di controllare i dati. Successivamente, deve superare il test dell’“uso etico”, in modo che i risultati non siano influenzati da pregiudizi. Deve esistere un livello di privacy. Per un'azienda, a differenza degli strumenti Gen AI esterni, i dati per la Gen AI devono essere "zero copy", il che significa che non memorizza alcun dato. A meno che tu non possa fare tutto questo, potresti incorrere in violazioni delle normative esistenti o emergenti, come la legge sull’intelligenza artificiale dell’UE.

Il secondo fattore è che gli esseri umani preferiscono gli esseri umani, anche quando l’intelligenza artificiale è più precisa. I consumatori preferiscono un giudice a un algoritmo, anche quando i dati mostrano che un giudice è meno coerente dell’intelligenza artificiale. Oppure i veicoli a guida autonoma: la maggioranza delle persone afferma di preferire l’automobile quando è guidata da un essere umano, anche se il veicolo senza conducente sarebbe più preciso.

L'ultimo fattore potrebbe essere chiamato “il tocco umano”. Per interazioni che vanno dall’aiuto con una domanda su una fattura, alla consulenza medica, o molto supporto tecnico, le persone cercano empatia, preoccupazione, trasparenza, comprensione e fiducia. Questi tratti sono difficili da catturare nel software in modo economicamente vantaggioso.

Sono arrivate le tecnologie per il nuovo mondo dei clienti connessi. Quale fattore "soft" potrebbe rallentare l'adozione?

MM:Hai ragione, abbiamo trattato due dei tre elementi del cambiamento, tecnologia e cambiamento dei processi, e la domanda aperta è: "Il management è pronto ad abbracciare il cambiamento?" I sondaggi condotti dalle risorse umane a livello globale mostrano che i dipendenti affermano costantemente che il giorno peggiore di ogni mese è quello in cui devono parlare con il proprio manager. Quando si approfondiscono le ragioni, c’è insicurezza e mancanza di trasparenza riguardo ai parametri che contano, bassi salari o cattive condizioni, mancanza di formazione adeguata, la sensazione che la responsabilità sia solo in una direzione e la sensazione che il manager non lo fa. fidati di loro. Purtroppo, questi sono più reali di quanto si immagini. Tendo a raccomandare di guardare le aziende con i dipendenti più felici e chiedermi: "Perché proprio loro, e questo ripaga?"

In parte, i dipendenti più felici si trovano anche nelle aziende di maggior successo, e dobbiamo chiederci se sono felici perché è più divertente far parte della squadra vincente, o sono nella squadra vincente perché lavorare per quell’azienda è più soddisfacente? ? ADP, Apple, Ferrari, Costco, BMW, Cisco, Airbus, Rossman, Samsung e Salesforce sono tutte tra le aziende con le migliori valutazioni per la soddisfazione dei dipendenti e sono tutte aziende di successo. Attraversano sei settori diversi, quindi non è questo. Sono forze lavoro ben gestite.

C'è ancora quella parola: manager. Un manager, un buon manager, deve essere un leader. Ci sono abbastanza ricerche della Harvard Business Review e di altri che parlano di questo. Ma devono essere un tipo di imprenditore sempre pronto con una mente aperta su come fare ciò che Toyota dice essere "Meglio, meglio, mai migliore".

Sono in parti uguali leader e imprenditori per la loro squadra. Prendono rischi ragionevoli per migliorare e non sono in gioco principalmente solo per se stessi, ma per il bene dell'azienda, del cliente e del dipendente. Tendono anche a guardare al quadro generale quando prendono decisioni e le prendono, per quanto possibile, in collaborazione con il loro team.

Infine, si preoccupano del successo dei loro rapporti diretti. Proprio come sono pronti a lodare il successo, non hanno paura di aiutare un dipendente che non riesce a raggiungere il livello richiesto a trovare altre opportunità all'interno o all'esterno dell'azienda. È questo tipo di leader che guiderà coraggiosamente la propria squadra nell'abbracciare gli agenti IA come una nuova parte del team, dedicata a rendere ogni membro del team più efficace e di successo.

Ed Thompson, vicepresidente senior della strategia di mercato di Salesforce.

ET: Gestione: se unisco questo argomento con l'implementazione degli agenti, allora diventa un argomento davvero interessante. La tecnologia degli agenti sta per rappresentare una grande sfida per i manager. Non tanto quando gli agenti agiscono come assistenti dei dipendenti, ma quando sostituiscono i dipendenti, le cose cambieranno per i manager. Le prove limitate che abbiamo finora dimostrano che quando gli agenti sono assistenti dei dipendenti e scaricano il lavoro noioso e banale, allora, per il manager, è un ottimo modo per migliorare i lavoratori a basso rendimento nel team. I benefici sono molto inferiori per i soggetti con le performance più elevate. In molti sensi, è un vantaggio per i manager, anche se le revisioni delle performance diventano più difficili quando le performance inferiori ora assomigliano molto a quelle high performance.

Ma non abbiamo ancora visto molti agenti che agiscono come dipendenti a pieno titolo. Ciò cambia completamente il rapporto manager-dipendente. Ora il manager deve decidere se il dipendente umano o quello digitale può svolgere meglio il lavoro. Immagina una situazione in cui il manager ha ora cinque dipendenti umani e cinque agenti digitali nel team. Sembra certamente che questa situazione significherà più attrito. Cambierà la definizione di buon manager.

Ma poi dipende da quali lavori vengono sostituiti. Molti lavori e ruoli non sono apprezzati. Spesso all'inizio di una carriera, a tutti noi vengono assegnati i compiti meno graditi. Qualcuno piangerà quei lavori che vanno agli agenti? Allo stesso modo, molti lavori vengono svolti da appaltatori o outsourcer che non sono gestiti quotidianamente da manager interni.

Sospetto che i lavoratori temporanei, temporanei, a contratto e in outsourcing saranno alcuni dei primi ruoli da sperimentare nell'utilizzo dei dipendenti degli agenti. Ma cosa accadrebbe se i dipendenti degli agenti sostituissero i lavori a cui tutti aspirano, scavalcando coloro che sperano di essere promossi a quei ruoli? Quindi il lavoro del manager diventa molto doloroso.

A mio avviso, l’impatto che gli agenti hanno su manager e dipendenti dipende tutto dalla velocità di introduzione. Se un’azienda sceglie di sostituire il 50% dei suoi dipendenti in meno di due anni, come Klarna, è probabile che sarà doloroso per dipendenti e manager, anche se sarà positivo per investitori e dirigenti. Se ciò avviene nell’arco di un decennio, è molto diverso. Nessuno mette più in discussione le casse automatiche nei supermercati, ma ci sono voluti dieci anni per implementarle. Quindi, mi aspetto che la felicità e l'insoddisfazione del management dipendano dalla velocità di implementazione.

This article was co-authored by Ed Thompson, who is a senior vice president of market strategy at Salesforce, andMichael Maoz, who is senior vice president of innovation strategy atSalesforce.