In che modo il progetto di IBM per la trasformazione del settore sfrutta l'intelligenza artificiale, il 5G e la collaborazione
Dopo la privacy dei dati e il GDPR, l'UE vuole lasciare il segno sull'IA regolandola con l'EU AI Act. Ecco di cosa si tratta, cosa significa per il mondo in generale, quando si prevede che entrerà in vigore e cosa hanno da dire gli esperti della Mozilla Foundation.
È passato quasi un anno da quando la Commissione europea ha presentato la bozza di quello che potrebbe essere uno dei quadri giuridici più influenti al mondo: l' EU AI Act. Secondo la Mozilla Foundation, il framework è ancora in fase di sviluppo e ora è il momento di impegnarsi attivamente nello sforzo di modellarne la direzione.
La missione dichiarata di Mozilla Foundation è quella di lavorare per garantire che Internet rimanga una risorsa pubblica aperta e accessibile a tutti. Dal 2019, Mozilla Foundation ha concentrato una parte significativa dei suoi programmi di costruzione del movimento per la salute su Internet sull'intelligenza artificiale.
Abbiamo incontrato Mark Surman, direttore esecutivo della Mozilla Foundation, e Maximilian Gahntz, Senior Policy Researcher, per discutere dell'attenzione e della posizione di Mozilla sull'IA, dei fatti chiave sull'AI Act dell'UE e di come funzionerà nella pratica, nonché delle raccomandazioni di Mozilla per migliorarlo e dei modi in cui tutti possono essere coinvolti nel processo.
L'AI Act dell'UE è in arrivo ed è un grosso problema anche se non risiedi nell'UE
Nel 2019, Mozilla ha identificato l'intelligenza artificiale come una nuova sfida per la salute di Internet. La logica è che l'intelligenza artificiale prende decisioni per noi e su di noi, ma non sempre con noi: può dirci quali notizie leggiamo, quali annunci vediamo o se abbiamo i requisiti per un prestito.
Le decisioni prese dall'intelligenza artificiale hanno il potenziale per aiutare l'umanità, ma anche per danneggiarci, osserva Mozilla. L'intelligenza artificiale può amplificare i pregiudizi e le discriminazioni storiche, dare priorità al coinvolgimento rispetto al benessere degli utenti e cementare ulteriormente il potere delle Big Tech ed emarginare gli individui.
"L'intelligenza artificiale affidabile è stata una cosa fondamentale per noi negli ultimi anni perché i dati e l'apprendimento automatico e ciò che oggi chiamiamo intelligenza artificiale sono un tessuto tecnico e sociale centrale per ciò che è Internet e per il modo in cui Internet si interseca con la società e con tutte le nostre vite", ha osservato Surman.
Poiché l'IA sta permeando sempre più le nostre vite, Mozilla concorda con l'UE sul fatto che è necessario un cambiamento nelle norme e nelle regole che governano l'IA, scrive Gahntz nella reazione di Mozilla all'AI Act dell'UE.
La prima cosa da notare sull'AI Act dell'UE è che non si applica esclusivamente alle organizzazioni o ai cittadini con sede nell'UE. L'increspatura può essere avvertita in tutto il mondo in modo simile all'effetto che ha avuto il GDPR.
La legge sull'IA dell'UE si applica agli utenti e ai fornitori di sistemi di IA situati all'interno dell'UE, ai fornitori stabiliti al di fuori dell'UE che sono la fonte dell'immissione sul mercato o della messa in servizio di un sistema di IA all'interno dell'UE e ai fornitori e agli utenti di sistemi di IA stabiliti al di fuori dell'UE quando i risultati generati dal sistema sono utilizzati nell'UE.
Ciò significa che le organizzazioni che sviluppano e implementano sistemi di IA dovranno conformarsi all'AI Act dell'UE o ritirarsi completamente dall'UE. Detto questo, ci sono alcuni modi in cui l'AI Act dell'UE è diverso dal GDPR , ma ne parleremo più avanti.
Come tutte le normative, l'AI Act dell'UE cammina su una linea sottile che oscilla tra le esigenze delle imprese e della ricerca e le preoccupazioni dei cittadini
Un altro punto chiave dell'AI Act dell'UE è che è ancora un lavoro in corso e ci vorrà un po' di tempo prima che diventi effettivo. Il suo ciclo di vita è iniziato con la formazione di un gruppo di esperti di alto livello che, come ha osservato Surman, ha coinciso con l'attenzione di Mozilla sull'IA affidabile. Mozilla tiene d'occhio l'AI Act dell'UE dal 2019.
Come ha osservato Gahntz, da quando è stata pubblicata la prima bozza della legge sull'IA dell'UE nell'aprile 2021, tutte le persone coinvolte in questo processo si sono preparate a impegnarsi. Il Parlamento europeo doveva decidere quali commissioni e quali persone in quelle commissioni avrebbero lavorato su di esso, e le organizzazioni della società civile hanno avuto la possibilità di leggere il testo e sviluppare la loro posizione.
Il punto in cui ci troviamo in questo momento è dove inizia la parte eccitante, come ha detto Gahntz. Questo è il momento in cui il Parlamento europeo sta sviluppando la sua posizione, considerando i contributi che riceve dalle commissioni designate e da terze parti. Una volta che il Parlamento europeo avrà consolidato ciò che intende con il termine IA affidabile, presenterà le sue idee su come modificare la bozza iniziale.
Gli Stati membri dell'UE faranno la stessa cosa, e poi ci sarà un ultimo round di negoziati tra il Parlamento, la Commissione e gli Stati membri, ed è allora che l'EU AI Act sarà convertito in legge. È una strada lunga e tortuosa e, secondo Gahntz, stiamo guardando a un orizzonte di un anno come minimo, più un periodo di transizione tra l'approvazione in legge e l'effettiva entrata in vigore.
Per il GDPR, il periodo transitorio era di due anni. Quindi probabilmente non sarà prima del 2025 che l'AI Act dell'UE entrerà in vigore.
Definizione e categorizzazione dei sistemi di IA
Prima di entrare nello specifico dell'AI Act dell'UE, dovremmo fermarci e chiederci a cosa si applica esattamente. Non esiste una definizione ampiamente condivisa di IA, quindi la legge sull'IA dell'UE fornisce un allegato che definisce le tecniche e gli approcci che rientrano nel suo campo di applicazione.
Come osservato dal Montreal AI Ethics Institute, la Commissione europea ha scelto una definizione ampia e neutrale di sistemi di IA, designandoli come software "sviluppato con una o più delle tecniche e degli approcci elencati nell'allegato I e in grado, per un determinato insieme di obiettivi definiti dall'uomo, generare output quali contenuti, previsioni, raccomandazioni o decisioni che influenzano gli ambienti con cui interagiscono".
Le tecniche menzionate nell'allegato della legge sull'IA dell'UE includono sia approcci di apprendimento automatico che approcci basati sulla logica e sulla conoscenza. Sono di ampio respiro, al punto da attirare critiche per "aver proposto di regolamentare l'uso della stima bayesiana". Mentre la navigazione tra le esigenze delle imprese e della ricerca e le preoccupazioni dei cittadini cammina su una linea sottile, tali affermazioni non sembrano cogliere l'essenza della filosofia della legislazione proposta: il cosiddetto approccio basato sul rischio.
Nella legge sull'IA dell'UE, i sistemi di IA sono classificati in 4 categorie in base al rischio percepito che rappresentano: i sistemi a rischio inaccettabile sono completamente vietati (sebbene si applichino alcune eccezioni), i sistemi ad alto rischio sono soggetti a regole di tracciabilità, trasparenza e robustezza, i sistemi a basso rischio richiedono trasparenza da parte del fornitore e i sistemi a rischio minimo per i quali non sono stabiliti requisiti.
Non si tratta quindi di regolamentare determinate tecniche, ma piuttosto di regolamentare l'applicazione di tali tecniche in determinate applicazioni in base al rischio che le applicazioni comportano. Per quanto riguarda le tecniche, il quadro proposto rileva che potrebbero essere necessari adattamenti straordinari per tenere il passo con l'evoluzione del dominio.
Sono esclusi dall'ambito di applicazione della legge sull'IA dell'UE i sistemi di IA sviluppati o utilizzati esclusivamente per scopi militari. Sono esentate dalla legge sull'IA anche le autorità pubbliche di paesi terzi e le organizzazioni internazionali che utilizzano sistemi di IA nel quadro di accordi internazionali di contrasto e di cooperazione giudiziaria con l'UE o con uno o più dei suoi membri.
Nell'AI Act dell'UE, i sistemi di IA sono classificati in 4 categorie in base al rischio percepito che rappresentano
Le applicazioni di intelligenza artificiale che manipolano il comportamento umano per privare gli utenti del loro libero arbitrio e i sistemi che consentono il punteggio sociale da parte degli Stati membri dell'UE sono classificati come a rischio inaccettabile e sono completamente vietati.
I sistemi di IA ad alto rischio comprendono l'identificazione biometrica, la gestione delle infrastrutture critiche (acqua, energia, ecc.), i sistemi di IA destinati all'assegnazione in istituti di istruzione o per la gestione delle risorse umane e le applicazioni di IA per l'accesso a servizi essenziali (crediti bancari, servizi pubblici, prestazioni sociali, giustizia, ecc.), l'uso per missioni di polizia, nonché la gestione della migrazione e il controllo delle frontiere.
Tuttavia, l'applicazione dell'identificazione biometrica comprende diverse eccezioni, come la ricerca di un minore scomparso o la localizzazione di sospetti in caso di terrorismo, tratta di esseri umani o pornografia infantile. La legge sull'IA dell'UE stabilisce che i sistemi di IA ad alto rischio devono essere registrati in una banca dati gestita dalla Commissione europea.
I sistemi a rischio limitato includono principalmente vari bot. Per questi, il requisito chiave è la trasparenza. Ad esempio, se gli utenti interagiscono con un chatbot, devono essere informati di questo fatto, in modo che possano prendere una decisione informata sull'opportunità di procedere o meno.
Infine, secondo la Commissione, i sistemi di IA che non rappresentano un rischio per i diritti dei cittadini, come i filtri antispam o i giochi, sono esenti dall'obbligo normativo.
La legge sull'IA dell'UE come un modo per arrivare a un'IA affidabile
L'idea principale alla base di questo approccio basato sul rischio alla regolamentazione dell'IA ricorda in qualche modo l'approccio applicato all'etichettatura dei dispositivi elettrici domestici in base alla loro efficienza energetica nell'UE. I dispositivi sono classificati in base alle loro caratteristiche di efficienza energetica e vengono applicate etichette che vanno da A (migliore) a G (peggiore).
Ma ci sono anche alcune differenze importanti. In particolare, mentre le etichette energetiche sono pensate per essere viste e prese in considerazione dai consumatori, la valutazione del rischio dei sistemi di intelligenza artificiale non è progettata con lo stesso obiettivo in mente. Tuttavia, se Mozilla riuscirà a fare a modo suo, le cose potrebbero cambiare nel momento in cui l'AI Act dell'UE entrerà in vigore.
Tracciare analogie è sempre interessante, ma ciò che è veramente importante qui è che l'approccio basato sul rischio sta cercando di ridurre al minimo l'impatto della regolamentazione su coloro che sviluppano e implementano sistemi di intelligenza artificiale che sono di scarsa o nessuna preoccupazione, ha detto Gahntz.
"L'idea è quella di concentrare l'attenzione sulle parti in cui diventa difficile, dove viene introdotto un rischio per la sicurezza, i diritti e la privacy delle persone, e così via. Questa è anche la parte su cui vogliamo concentrarci, perché la regolamentazione non è fine a se stessa.
Vogliamo realizzare con le nostre raccomandazioni e il nostro lavoro di advocacy in questo senso. Le parti del regolamento che si concentrano sull'attenuazione o sulla prevenzione dei rischi sono rafforzate nell'ultimo atto dell'UE sull'IA.
Ci sono molte analogie con altri approcci basati sul rischio che vediamo altrove nel diritto e nella regolamentazione europea. Ma è anche importante considerare i rischi specifici per ogni caso d'uso. Ciò significa fondamentalmente rispondere alla domanda su come possiamo assicurarci che l'IA sia affidabile", ha affermato Gahntz.
Gahntz e Surman hanno sottolineato che le raccomandazioni di Mozilla sono state sviluppate con la cura e la due diligence necessarie in questo processo per assicurarsi che nessuno venga danneggiato e che l'intelligenza artificiale finisca per essere un beneficio netto per tutti.
Continueremo con un'elaborazione delle raccomandazioni di Mozilla per migliorare l'AI Act dell'UE, nonché la filosofia alla base di un'IA affidabile e della teoria del cambiamento dell'IA e come essere coinvolti nella conversazione nella parte 2 di questo articolo.