In che modo i CXO possono navigare in questa roadmap per un'IA responsabile
Questa è l'interpretazione di Forrester di ogni principio per i leader tecnologici e aziendali interessati a saperne di più. La tabella di marcia della Business Roundtable
Di recente, la Business Roundtable, un influente gruppo di amministratori delegati di importanti aziende statunitensi, ha pubblicato una Roadmap per un'Intelligenza Artificiale Responsabile. Mentre molte aziende stanno già pensando a un'IA responsabile a causa di forze di mercato come l'imminente Artificial Intelligence Act in Europa e le richieste dei consumatori basati sui valori, questo annuncio eleverà la conversazione alla C-suite.
Alcuni dei principi sono piacevolmente prescrittivi, come "innovare con e per la diversità", mentre altri, come "mitigare il potenziale di pregiudizi ingiusti", sono troppo vaghi o incompleti per essere utili. Per i leader tecnologici e aziendali interessati ad adottare uno o tutti questi principi, il diavolo è nei dettagli. Ecco la nostra breve interpretazione di ciascun principio:
- Innovare con e per la diversità. Quando le persone che concepiscono e sviluppano un sistema di intelligenza artificiale si assomigliano, è inevitabile che ci siano punti ciechi significativi. L'assunzione di team diversificati per sviluppare, implementare, monitorare e utilizzare l'intelligenza artificiale aiuta a sradicare questi punti ciechi ed è qualcosa che noi di Forrester raccomandiamo sin dal nostro primo rapporto sull'etica dell'intelligenza artificiale nel 2018.
- Mitigare il potenziale di pregiudizi ingiusti. Esistono oltre 20 diverse rappresentazioni matematiche dell'equità e la selezione di quella giusta dipende dalla strategia, dal caso d'uso e dai valori aziendali. In altre parole, l'equità è nell'intelligenza artificiale di chi guarda.
- Progettare e implementare trasparenza, spiegabilità e interpretabilità. Esistono molti tipi diversi di IA spiegabile (XAI): la trasparenza si basa su algoritmi completamente trasparenti "scatola di vetro", mentre l'interpretabilità si basa su tecniche che spiegano il funzionamento di un sistema opaco come una rete neurale profonda.
- Investi in una forza lavoro basata sull'intelligenza artificiale pronta per il futuro. È più probabile che l'intelligenza artificiale trasformi il lavoro della maggior parte delle persone piuttosto che eliminarle, ma la maggior parte dei dipendenti non è pronta. Non hanno le competenze, le inclinazioni e la fiducia necessarie per abbracciare l'intelligenza artificiale. Investire nel quoziente di robotica, una misura della prontezza, può preparare i dipendenti a lavorare fianco a fianco con l'intelligenza artificiale.
- Valuta e monitora l'idoneità e l'impatto del modello. La pandemia è stata una lezione reale per le aziende che corrono il pericolo di una deriva dei dati. Le aziende devono adottare le operazioni di machine learning (MLOps) per monitorare l'intelligenza artificiale per garantire prestazioni costanti e prendere in considerazione l'identificazione dei pregiudizi in crowdsourcing con i premi sui pregiudizi.
- Gestisci la raccolta e l'utilizzo dei dati in modo responsabile. Sebbene il framework Business Roundtable enfatizzi la qualità e l'accuratezza dei dati, trascura la privacy. Comprendere la relazione tra IA e dati personali è fondamentale per una gestione responsabile dell'IA.
- Progetta e implementa sistemi di intelligenza artificiale sicuri. Non esiste un'intelligenza artificiale sicura senza solide pratiche di sicurezza informatica e privacy.
- Incoraggia una cultura aziendale di IA responsabile. Alcune aziende stanno iniziando ad adottare un approccio dall'alto verso il basso per promuovere una cultura dell'IA responsabile, nominando un chief trust officer o un chief ethics officer. Ci aspettiamo di vedere altre nomine di questo tipo nel corso del prossimo anno.
- Adattare le strutture di governance esistenti per tenere conto dell'IA. La governance dei dati ambientali, una strategia per integrare la governance dei dati nell'interazione quotidiana dei dati e adattare in modo intelligente i dati alle intenzioni personali, è ideale per l'intelligenza artificiale. Mappa le tue attività di governance dei dati nel contesto della governance dell'intelligenza artificiale.
- Rendi operativa la governance dell'IA in tutta l'organizzazione. In molte organizzazioni, la governance è diventata una parolaccia. Questo non è solo un peccato, ma anche piuttosto pericoloso. Scopri come superare l'affaticamento della governance.
Cosa manca
Per quanto solida e ben intenzionata sia la roadmap della Business Roundtable, mancano due elementi critici che le aziende devono adottare per adottare l'IA in modo responsabile:
Mitiga il rischio di terze parti attraverso una rigorosa due diligence. La maggior parte delle aziende sta adottando l'IA in collaborazione con terze parti, acquistando soluzioni di IA di terze parti o sviluppando le proprie soluzioni utilizzando gli elementi costitutivi dell'IA di terze parti. In entrambi i casi, il rischio di terze parti è reale e deve essere mitigato. Il nostro report, AI Aspirants: Caveat Emptor, spiega le migliori pratiche per ridurre il rischio di terze parti nella complessa catena di approvvigionamento dell'IA.
Testa l'intelligenza artificiale per ridurre i rischi e aumentare il valore aziendale. Il software infuso di intelligenza artificiale introduce un'incertezza che richiede ulteriori test delle interazioni tra i vari modelli e il software automatico. Forrester ha sviluppato un framework di strategia di test basato sul rischio aziendale e suggerisce il livello e il tipo di test necessari.
L'enfasi sull'intelligenza artificiale responsabile non scomparirà presto. Le aziende che investono in persone, processi e tecnologie per garantire l'adozione etica e responsabile dell'IA renderanno le loro attività a prova di futuro da interruzioni normative o reputazionali.
Questo post è stato scritto dal VP, Principal Analyst Brandon Purcell ed è apparso originariamente qui.