La saga di OpenAI mostra che la corsa per la supremazia dell’IA non è più solo tra nazioni

La debacle di OpenAI ha ampliato la portata di questo dibattito, ma il messaggio di fondo rimane lo stesso, soprattutto per i governi che stanno ancora cercando di capire il loro ruolo in un regime basato sull’intelligenza artificiale, suggerisce Eileen Yu di ZDNET.

La battaglia tra Stati Uniti e Cina per l'abilità dell'intelligenza artificiale è ciò di cui avevo pianificato di discutere inizialmente quando ho iniziato questo post. Un fine settimana frenetico ha ora cambiato la portata di questo dibattito. Tuttavia, il messaggio di fondo rimane lo stesso, soprattutto per i governi che stanno ancora cercando di capire il loro ruolo in un’era che potrebbe essere influenzata in modo significativo da queste tecnologie emergenti.

È stata una settimana sbalorditiva per OpenAI e ora sembra che sia stato raggiunto un accordo affinché il suo co-fondatore e CEO estromesso Sam Altman ritorni al timone. La decisione arriva dopo giorni di sviluppi degni di nota, durante i quali la potenza dell’intelligenza artificiale generativa ha perso il suo CEO, lo ha visto unirsi a Microsoft, ha sostituito il suo primo CEO ad interim con un secondo CEO ad interim e ha dovuto affrontare una rivolta del personale.

OpenAI ha dichiarato in una dichiarazione che annuncia la reintegrazione di Altman: "Abbiamo raggiunto un accordo di principio affinché Sam Altman ritorni in OpenAI come CEO, con un nuovo consiglio iniziale composto da Bret Taylor (presidente), Larry Summers e Adam D'Angelo. Siamo collaborando per definire i dettagli. Grazie mille per la pazienza dimostrata."

I rapporti non sono ancora chiari se Altman otterrà ora un posto nel consiglio di amministrazione, uno che non aveva prima. In un'intervista a Bloomberg del giugno 2023 sulla fiducia nell'intelligenza artificiale aveva già notato: "Qui non ci si dovrebbe fidare di nessuno... Il consiglio può licenziarmi. Penso che sia importante".

Inoltre, non si sa ancora se il co-fondatore e capo scienziato di OpenAI Ilya Sutskever tornerà. Sutskever era nel consiglio precedente, insieme alla collega membro del consiglio Helen Toner, che si ipotizzava che entrambi avessero avuto un ruolo nella decisione di rimuovere Altman. Sutskever, tuttavia, in seguito espresse il suo rammarico per averlo fatto.

Toner, che era rimasto in silenzio durante tutto il caos, alla fine ha detto su X dopo che è stato rivelato che Altman sarebbe tornato: "E ora, dormiamo tutti un po'".

Toner, direttore della strategia e delle sovvenzioni per la ricerca fondamentale presso il Center for Security and Emerging Technology, era coautore di un documento di ricerca che secondo Altman era critico nei confronti di OpenAI. Il rapporto rilevava che gli sforzi dell’azienda nel mantenere sicuri i propri sviluppi sull’intelligenza artificiale erano impalliditi rispetto a quelli di Anthropic. Secondo un articolo unNew York Times, la Altman era abbastanza turbata da fare una campagna per la sua rimozione dal consiglio.

Nella dichiarazione originale in cui si annunciava il licenziamento di Altman, il consiglio di amministrazione di OpenAI aveva affermato di non essere più fiducioso nella sua capacità di guidare l'azienda. "La partenza di Altman segue un processo di revisione deliberativa da parte del consiglio, che ha concluso che non era coerentemente sincero nelle sue comunicazioni con il consiglio, ostacolando la sua capacità di esercitare le proprie responsabilità".

Il consiglio ha inoltre osservato che OpenAI, fondata come organizzazione no-profit nel 2015, è stata "deliberatamente strutturata per portare avanti la nostra missione" di garantire che l'intelligenza generale artificiale (AGI) andasse a beneficio di tutta l'umanità. "Il consiglio rimane pienamente impegnato a servire questa missione... crediamo che una nuova leadership sia necessaria mentre andiamo avanti", si legge nella dichiarazione.

La società è stata ristrutturata nel 2019 per consentire la raccolta di capitali nel perseguimento della propria missione, "preservando" la governance e la supervisione dell'organizzazione no-profit. "Sebbene la società abbia registrato una crescita drammatica, rimane responsabilità fondamentale di governance del consiglio di amministrazione portare avanti la missione di OpenAI e preservare i principi della sua Carta", ha affermato.

Nonostante abbia notato le comunicazioni tutt'altro che sincere di Altman come motivazione della sua espulsione, il consiglio non ha fornito ulteriori dettagli o ragioni specifiche che avessero portato a quella conclusione.

Con il consiglio, inclusi Toner e Sutskever - che si dice siano preoccupati per l’attenzione di Altman sull’espansione sulla sicurezza dell’intelligenza artificiale - che hanno scelto di rimanere in gran parte in silenzio sul motivo che ha portato alla decisione di licenziare Altman, la speculazione si è diffusa sui social media.

Man mano che emergevano nuove segnalazioni di tensioni tra Altman e il consiglio di amministrazione, divenne presto chiaro - alla maggior parte degli osservatori - che molto probabilmente il dibattito era tra la sicurezza dell’IA e il profitto. E qui sta il nocciolo del problema. Queste sono ancora supposizioni e speculazioni perché semplicemente non ci sono abbastanza informazioni, o addirittura nessuna, su quali fossero realmente le preoccupazioni del consiglio di amministrazione di OpenAI.

Quali fatti Altman ha omesso o mentito che hanno portato il consiglio di amministrazione a determinare che non era più in linea con la missione di OpenAI secondo cui l'AGI deve "andare a beneficio di tutta l'umanità"? La ricerca e lo sviluppo dietro le quinte di OpenAI si stanno avvicinando all'AGI e il consiglio non è sicuro che "tutta l'umanità" sia pronta? Dovrebbe essere qualcosa di cui anche il pubblico in generale e le nazioni dovrebbero preoccuparsi?

Se c’è una cosa che è diventata ancora più chiara la scorsa settimana, è che il futuro del mondo con l’intelligenza artificiale al suo interno è in gran parte nelle mani di un gruppo molto ristretto di attori del mercato. Il collettivo Big Tech ha le tasche profonde e le risorse per determinare come pensano che l’intelligenza artificiale dovrebbe avere un impatto sulla società in generale. Tuttavia, questa comunità tecnologica d’élite rappresenta solo una piccola frazione della popolazione e dei dati demografici mondiali.

In pochi giorni, queste élite tecnologiche sono state in grado di manovrare la cacciata di Altman, la sua assunzione in Microsoft (anche se di breve durata), il potenziale trasferimento di quasi un’intera forza lavoro OpenAI a un altro importante attore del mercato e l’eventuale reintegrazione di Altman. E hanno fatto tutto questo senza alcun chiaro sforzo concertato per spiegare perché è stato licenziato e per verificare, o confutare, le preoccupazioni sulla priorità data alla sicurezza dell'IA rispetto ai profitti.

Ci sono suggerimenti secondo cui il nuovo consiglio di OpenAI avvierà un'indagine sui motivi dietro la tristezza di Altman, ma si dice che questo sia interno.

Metti in pratica ciò che predica la trasparenza dell’intelligenza artificiale

Nel mezzo di una settimana caotica, un messaggio è ora ancora più evidente. La trasparenza è fondamentale nello sviluppo e nell'adozione di tutta l'intelligenza artificiale: generativa, AGI o altro. La trasparenza è il fondamento della fiducia, su cui molti concordano che l’intelligenza artificiale debba essere costruita per ottenere l’accettazione umana.

Anche le Big Tech hanno predicato l’importanza della trasparenza nel promuovere un’intelligenza artificiale responsabile ed etica.

E quando non se ne trova alcuna, la trasparenza deve essere guidata dalla regolamentazione. Abbiamo bisogno di una legislazione che non cerchi di inibire l’innovazione del mercato nel campo dell’intelligenza artificiale, ma che si concentri sull’imposizione di trasparenza nel modo in cui questa innovazione viene sviluppata e avanzata.

L’intera debacle di OpenAI dovrebbe servire come una grande opportunità di apprendimento per i governi e le società su come dovrebbe andare avanti lo sviluppo dell’IA. Ora siamo testimoni anche della complessità della gestione di questo, anche se il suo sviluppo è legato a un quadro aziendale senza scopo di lucro.

Il fatto che un dipendente chiave abbia dovuto dimettersi per poter parlare liberamente dei rischi dell’intelligenza artificiale indica chiaramente che gli operatori del mercato difficilmente saranno completamente trasparenti riguardo al suo sviluppo, nonostante si siano impegnati a farlo.

Sottolinea la necessità di una governance forte per garantire che ciò avvenga, e l’urgenza di istituirla. Come abbiamo già visto, il mercato, in particolare le Big Tech, può muoversi a una velocità incredibile. E questo probabilmente accelererà a un ritmo ancora più veloce ora che la scorsa settimana ha posto più attenzione all’intelligenza artificiale.

I legislatori dovranno muoversi rapidamente. La Dichiarazione di Bletchley sulla sicurezza dell’intelligenza artificiale guidata dal Regno Unito rappresenta un grande passo avanti, con 28 nazioni, tra cui Cina, Stati Uniti, Singapore e UE che accettano di collaborare per identificare e gestire i potenziali rischi derivanti dall’intelligenza artificiale “di frontiera”. L’accordo multilaterale delinea il riconoscimento da parte dei paesi della “necessità urgente” di garantire che l’intelligenza artificiale sia sviluppata e utilizzata in “modo sicuro e responsabile” a beneficio della comunità globale.

Le Nazioni Unite hanno inoltre predisposto piani per un gruppo consultivo incaricato di esaminare la governance internazionale dell'IA per mitigare i potenziali rischi, con l'impegno ad adottare un approccio "globalmente inclusivo".

Spero che qualcuno laggiù stia prendendo appunti dal case study OpenAI della scorsa settimana. Perché la discussione ora non riguarda solo quale nazione dominerà la corsa all’intelligenza artificiale, ma se le Big Tech prenderanno il controllo del volante senza i necessari dossi in atto.