Se il tuo codice generato dall’intelligenza artificiale diventa difettoso, chi è maggiormente esposto alla responsabilità?
L’essenza dell’intelligenza artificiale, afferma l’ufficio scientifico del Regno Unito, è che è “adattiva” e “autonoma”.
Un libro bianco di 91 pagine sulla regolamentazione dell'intelligenza artificiale, pubblicato mercoledì dal Segretario di Stato per la scienza, l'innovazione e la tecnologia del Regno Unito e presentato al parlamento britannico, si basa sull'idea che l'intelligenza artificiale è per lo più definita dalla sua incertezza e imprevedibilità.
"Per regolamentare l'intelligenza artificiale in modo efficace e per sostenere la chiarezza del quadro da noi proposto, abbiamo bisogno di una comprensione comune di cosa si intende per 'intelligenza artificiale'", si legge nel Libro bianco.
"Non esiste una definizione generale di IA che goda di un ampio consenso" ed "ecco perché abbiamo definito l'IA facendo riferimento alle due caratteristiche che generano la necessità di una risposta normativa su misura".
Questa definizione si concentra solo su un angolo dell'intelligenza artificiale, quello di maggior successo fino ad oggi, l'apprendimento automatico o le reti neurali. Si concentra su due caratteristiche riscontrabili nell'apprendimento automatico, vale a dire che non è chiaro il motivo per cui i programmi funzionano in un certo modo e che i programmi possono avere risultati inaspettati.
Il Segretario di Stato britannico per la scienza, l’innovazione e la tecnologia ha proposto un quadro per la regolamentazione dell’intelligenza artificiale che sarebbe favorevole all’industria e allo stesso tempo, a suo dire, creerebbe fiducia nel pubblico per la tecnologia.
Il Libro bianco afferma:
- L'"adattabilità" dell'intelligenza artificiale può rendere difficile spiegare l'intento o la logica dei risultati del sistema:
- I sistemi di intelligenza artificiale vengono "addestrati" (una volta o continuamente) e funzionano deducendo modelli e connessioni nei dati che spesso non sono facilmente distinguibili dagli esseri umani.
- Attraverso tale formazione, i sistemi di intelligenza artificiale spesso sviluppano la capacità di eseguire nuove forme di inferenza non direttamente previste dai loro programmatori umani.
- L’”autonomia” dell’IA può rendere difficile l’assegnazione della responsabilità dei risultati:
- Alcuni sistemi di intelligenza artificiale possono prendere decisioni senza l’intento esplicito o il controllo continuo di un essere umano.
Il Libro bianco propone che, a causa dell’incertezza, i regolatori non dovrebbero regolamentare la tecnologia stessa, ma piuttosto regolamentare selettivamente i risultati dell’uso della tecnologia.
"Il nostro quadro è specifico al contesto", afferma. "Non assegneremo regole o livelli di rischio a interi settori o tecnologie.
"Invece, regoleremo in base ai risultati che l'intelligenza artificiale potrebbe generare in particolari applicazioni.
L'intento è che usi diversi abbiano conseguenze diverse e gravità diversa, chiarisce il rapporto:
Ad esempio, non sarebbe proporzionato o efficace classificare come ad alto rischio tutte le applicazioni dell’IA nelle infrastrutture critiche. Alcuni usi dell’intelligenza artificiale nelle infrastrutture critiche, come l’identificazione di graffi superficiali sui macchinari, possono comportare un rischio relativamente basso. Allo stesso modo, un chatbot basato sull’intelligenza artificiale utilizzato per valutare le richieste del servizio clienti per un rivenditore di abbigliamento online non dovrebbe essere regolamentato allo stesso modo di un’applicazione simile utilizzata come parte di un processo di diagnosi medica.
Il libro bianco, intitolato “Un approccio pro-innovazione alla regolamentazione dell’intelligenza artificiale”, si sforza di rassicurare l’industria che non reprimerà lo sviluppo della tecnologia. Il documento sottolinea la necessità di mantenere la Gran Bretagna commercialmente competitiva evitando di intervenire pesantemente sulla regolamentazione, cercando al tempo stesso di promuovere la fiducia nell’intelligenza artificiale tra il pubblico.
"L'industria ci ha avvertito che l'incoerenza normativa potrebbe soffocare l'innovazione e la concorrenza causando l'uscita dal mercato di un numero sproporzionato di piccole imprese", è una delle tante preoccupazioni menzionate nel rapporto.
La prefazione della segretaria Michelle Donlan dichiara che "questo libro bianco garantirà che stiamo mettendo il Regno Unito sulla buona strada per diventare il posto migliore al mondo per costruire, testare e utilizzare la tecnologia dell'intelligenza artificiale". Il rapporto rileva che i sondaggi hanno incoronato la Gran Bretagna “terza al mondo per la ricerca e lo sviluppo dell’intelligenza artificiale”, una posizione importante da preservare, suggerisce Donlan.
"Un futuro paese abilitato all'intelligenza artificiale è quello in cui i nostri modi di lavorare sono integrati dall'intelligenza artificiale piuttosto che sconvolti da essa", scrive Donlan, citando la prospettiva non solo di scoperte mediche come le diagnosi assistite dall'intelligenza artificiale, ma anche la prospettiva che l'intelligenza artificiale può automatizzare le attività umili sul posto di lavoro.
Il documento suggerisce che la regolamentazione adotti un tocco leggero, almeno inizialmente. I regolatori devono essere incoraggiati, nelle loro aree di specializzazione, a provare le cose e vedere cosa funziona, e a non essere gravati da regole “statutarie” per l’IA.
"I principi saranno emanati su base non statutaria e implementati dalle autorità di regolamentazione esistenti", si afferma. "Questo approccio si avvale delle competenze specifiche del settore dei regolatori per adattare l'attuazione dei principi al contesto specifico in cui viene utilizzata l'IA."
In un secondo momento, afferma il rapporto, "quando il tempo parlamentare lo consentirà, prevediamo di introdurre un obbligo statutario per gli enti regolatori che imponga loro di tenere debito conto dei principi", anche se lascia aperta la possibilità che tali norme statutarie potrebbero non essere necessarie se gli enti regolatori sono successo nell’esercitare il proprio giudizio.
Il Libro bianco è informato da altri sondaggi. Un diretto precursore è il documento politico pubblicato lo scorso luglio dal Segretario di Stato per il digitale, la cultura, i media e lo sport, intitolato “Stabilire un approccio pro-innovazione per regolamentare l’intelligenza artificiale”.
Un documento complementare pubblicato questo mese da Sir Patrick Vallance, il consulente scientifico capo del governo, intitolato "Revisione della regolamentazione delle tecnologie a favore dell'innovazione", fornisce diverse raccomandazioni che sono incorporate nel libro bianco del Segretario di Stato.
La principale tra queste è la proposta di un "sandbox" favorevole alle imprese. Si tratterebbe di una struttura che incuberebbe le tecnologie di intelligenza artificiale, supervisionata dai regolatori, in cui le aziende potrebbero provare nuovi programmi di intelligenza artificiale con regole più rilassate per consentire una maggiore sperimentazione.
Il documento sottolinea che mentre altri paesi avanzano con proposte normative, è urgente che la Gran Bretagna non venga lasciata indietro. C’è un “breve lasso di tempo per l’intervento del governo per fornire un ambiente normativo chiaro e favorevole all’innovazione al fine di rendere il Regno Unito uno dei primi posti al mondo per costruire società di intelligenza artificiale fondamentali”, afferma.
Molte preoccupazioni sollevate dall’uso dell’intelligenza artificiale, inclusa l’etica dell’impronta di carbonio causata dalla formazione dei cosiddetti modelli linguistici di grandi dimensioni, vengono escluse dal rapporto.
Ad esempio, una lettera aperta pubblicata questa settimana dal think tank The Future of Life Institute, firmata da oltre 1.300 persone tra cui scienziati e membri dell’industria tecnologica, chiede una moratoria sullo sviluppo di modelli linguistici di grandi dimensioni, avvertendo che non viene prestata la dovuta attenzione ai pericoli. come "le macchine inondano i nostri canali di informazione con propaganda e falsità".
Il documento del Regno Unito non fornisce raccomandazioni così radicali, che a suo dire sono al di fuori dell’ambito della regolamentazione britannica:
Il quadro normativo proposto non cerca di affrontare tutte le sfide sociali e globali più ampie che potrebbero riguardare lo sviluppo o l’uso dell’IA. Ciò include questioni relative all’accesso ai dati, alla capacità di calcolo e alla sostenibilità, nonché al bilanciamento dei diritti dei produttori di contenuti e degli sviluppatori di intelligenza artificiale. Si tratta di questioni importanti da considerare - soprattutto nel contesto della capacità del Regno Unito di mantenere la sua posizione di leader globale nel campo dell’IA - ma esulano dall’ambito delle nostre proposte per un nuovo quadro generale per la regolamentazione dell’IA.