La "missione" AI di Sam Altman continua in Microsoft, il futuro di OpenAI e ChatGPT è incerto
In un fine settimana sulle montagne russe per l'intelligenza artificiale generativa di OpenAI, i co-fondatori Sam Altman e Greg Brockman sono ora in Microsoft e OpenAI è alle prese con come andare avanti.
Dopo un fine settimana sulle montagne russe per OpenAI, i suoi co-fondatori Sam Altman e Greg Brockman sono stati ora ingaggiati da Microsoft, dove guideranno un "nuovo team di ricerca sull'intelligenza artificiale avanzata".
Alcune ore dopo l'annuncio, tuttavia, circa 500 dipendenti di OpenAI hanno rilasciato una lettera aperta al loro consiglio di amministrazione, dicendo che potrebbero dimettersi e unirsi al duo in Microsoft, se i due co-fondatori non verranno reintegrati. OpenAI ha più di 700 dipendenti.
La saga in corso è iniziata venerdì sera, quando il colosso dell'intelligenza artificiale generativa OpenAI ha rilasciato una dichiarazione in cui annunciava la cacciata di Altman, a causa di quella che il consiglio di amministrazione ha definito una mancanza di fiducia nella sua capacità di continuare a guidare l'azienda.
"La partenza di Altman segue un processo di revisione deliberativa da parte del consiglio, che ha concluso che egli non è stato costantemente sincero nelle sue comunicazioni con il consiglio, ostacolando la sua capacità di esercitare le proprie responsabilità", ha affermato il consiglio. "OpenAI è stata deliberatamente strutturata per portare avanti la nostra missione: garantire che l'intelligenza generale artificiale (AGI) porti benefici a tutta l'umanità. Il consiglio rimane pienamente impegnato a servire questa missione."
Ha espresso gratitudine per il contributo di Altman alla fondazione e alla crescita di OpenAI, ma ha sottolineato che una nuova leadership era "necessaria" man mano che la società andava avanti.
Il consiglio aveva nominato il CTO Mira Murati amministratore delegato ad interim, descrivendola come "eccezionalmente qualificata" poiché aveva guidato le funzioni di ricerca, prodotto e sicurezza dell'azienda.
Mentre la notizia si diffondeva per tutto il fine settimana, i rapporti suggerivano che Murati stesse cercando di riassumere Altman così come Brockman, che si era dimesso dalle sue posizioni di presidente e presidente in seguito alla cacciata di Altman. Secondo quanto riferito, il consiglio stava anche riconsiderando la sua decisione, poiché ha dovuto affrontare la pressione degli investitori e del personale che chiedevano il ritorno di Altman, ma sabato questa decisione sembrava essere fallita.
Invece, il co-fondatore ed ex CEO di Twitch, Emmett Shear, è stato nominato CEO ad interim, in sostituzione di Murati.
Tra le speculazioni su ciò che potrebbe accadere in seguito, il presidente e amministratore delegato di Microsoft Satya Nadella ha annunciato lunedì di aver catturato Altman e Brockman, insieme ai "colleghi", per "un nuovo gruppo di ricerca sull'intelligenza artificiale avanzata".
"Rimaniamo impegnati nella nostra partnership con OpenAI e abbiamo fiducia nella roadmap dei nostri prodotti, nella nostra capacità di continuare a innovare con tutto ciò che abbiamo annunciato a Microsoft Ignite e nel continuare a supportare i nostri clienti e partner", ha affermato Nadella in un post su X. "Non vediamo l'ora di conoscere Emmett Shear e il nuovo team dirigenziale di OpenAI e di lavorare con loro."
Il CEO ha aggiunto che Microsoft si muoverà “rapidamente” per fornire le risorse di cui il suo nuovo team di ricerca avanzata sull’intelligenza artificiale avrà bisogno per il suo successo.
In risposta alla sua nomina, Altman ha detto semplicemente: "La missione continua".
Guiderebbe come amministratore delegato del nuovo team Microsoft, secondo Nadella, che ha aggiunto che si unirebbe ad altri che hanno costruito "identità e culture indipendenti" all'interno di Microsoft, tra cui GitHub e LinkedIn.
Subito dopo che Nadella ha rivelato che Altman si sarebbe diretto verso Microsoft, 505 dipendenti di OpenAI hanno rilasciato una lettera al loro consiglio di amministrazione dicendo che avrebbero potuto andare nella stessa direzione se Altman e Brockman non fossero stati reintegrati nella società. Hanno inoltre chiesto le dimissioni di tutti i membri del consiglio e la nomina di due nuovi amministratori indipendenti.
"Le tue azioni hanno reso evidente che non sei in grado di supervisionare OpenAI. Non siamo in grado di lavorare per o con persone che mancano di competenza, giudizio e cura per la nostra missione e i nostri dipendenti", si legge nella lettera. "Microsoft ci ha assicurato che ci sono posizioni per tutti i dipendenti OpenAI in questa nuova filiale, qualora decidessimo di aderire."
Tra l'elenco dei nomi che hanno firmato la lettera c'erano Murati e il co-fondatore e capo scienziato di OpenAI Ilya Sutskever, che secondo i rapporti avrebbe avuto un ruolo nella decisione di rimuovere Altman. Sutskever fa parte del consiglio di amministrazione di OpenAI.
Sutskever, che era rimasto in silenzio da quando la notizia è arrivata venerdì, ha pubblicato su X poco prima che la lettera emergesse, dicendo: "Mi rammarico profondamente della mia partecipazione alle azioni del consiglio. Non ho mai avuto intenzione di danneggiare OpenAI. Amo tutto ciò che abbiamo costruito insieme e farò tutto il possibile per riunire la società."
In un post di X sul suo appuntamento, Shear ha delineato un piano di 30 giorni per OpenAI, che includeva l'avvio di un'indagine indipendente sull'"intero processo che ha portato a questo punto" e la produzione di un rapporto completo. Nella sua lista di cose da fare c'è anche "riformare" il management e il gruppo dirigente, dopo le recenti partenze, con l'obiettivo di ottenere risultati per i clienti.
Aggiungendo di aver "controllato" la logica dietro l'estromissione di Altman, Shear ha detto: "Il consiglio non ha rimosso Sam per alcun disaccordo specifico sulla sicurezza. Il loro ragionamento era completamente diverso da quello. Non sono abbastanza pazzo da accettare questo lavoro senza consiglio supporto per la commercializzazione dei nostri fantastici modelli."
Durante la sua visita a Singapore lo scorso giugno, Altman aveva affermato che era importante che il pubblico conoscesse e sperimentasse l'intelligenza artificiale anche se la tecnologia continuava ad evolversi." Ciò sarebbe più efficace che costruire e testare un pezzo di tecnologia a porte chiuse e rilasciarlo "Non si può imparare tutto in un laboratorio", ha osservato, presentandolo al pubblico partendo dal presupposto che tutti i possibili rischi siano stati identificati e risolti.
In un post del luglio 2023, Sutskever ha scritto insieme al ricercatore sull'apprendimento automatico Jan Leike: "La superintelligenza sarà la tecnologia di maggior impatto che l'umanità abbia mai inventato e potrebbe aiutarci a risolvere molti dei problemi più importanti del mondo. Ma il vasto potere della superintelligenza potrebbe anche essere molto pericoloso e potrebbe portare alla perdita di potere dell’umanità o addirittura all’estinzione umana”.
"Al momento, non abbiamo una soluzione per guidare o controllare un'intelligenza artificiale potenzialmente superintelligente e impedirle di diventare canaglia", ha affermato Sutskever, che siede anche nel consiglio di amministrazione di OpenAI. "Le nostre attuali tecniche per allineare l'intelligenza artificiale, come l'apprendimento per rinforzo dal feedback umano, si basano sulla capacità degli esseri umani di supervisionare l'intelligenza artificiale, ma gli esseri umani non saranno in grado di supervisionare in modo affidabile sistemi di intelligenza artificiale molto più intelligenti di noi. Quindi le nostre attuali tecniche di allineamento non saranno scalabili. alla superintelligenza. Abbiamo bisogno di nuove scoperte scientifiche e tecniche."
Nel post, Sutskever annunciava un nuovo team di ricercatori e ingegneri di machine learning per lavorare su questo problema. I loro sforzi includerebbero lo sviluppo di un metodo di formazione scalabile, la convalida del modello risultante e lo stress test dell'intera pipeline di allineamento dell'azienda.