L'intelligenza artificiale potrebbe renderti miliardario nel 2025?

Una serie di nuove funzionalità del chip, tra cui il calcolo analogico, fornirà un processore AI più efficiente, più affidabile e più sicuro per più mercati, afferma il CEO Venkat Mattel.

La battaglia per cambiare l'industria informatica in modo che le macchine possano elaborare meglio le attività di intelligenza artificiale, in particolare l'apprendimento profondo, continua a dare vita a nuove e interessanti potenziali stelle del futuro.

Lunedì, Ceremorphic di San Jose, in California, ha formalmente presentato gli sforzi sui chip che sono stati mantenuti in modalità invisibile per due anni, discutendo di un chip che secondo l'azienda rivoluzionerà l'efficienza dell'intelligenza artificiale in termini di consumo energetico.

"Oggi è controintuitivo, ma prestazioni più elevate sono una potenza inferiore", ha affermato Venkat Mattela, fondatore e CEO dell'azienda, in un'intervista con ZDNet via Zoom. 

Mattela ritiene che numerosi brevetti sul funzionamento a bassa potenza consentiranno al chip della sua azienda di produrre la stessa precisione nelle attività di firma dell'apprendimento automatico con uno sforzo di calcolo molto inferiore.  

"Quello che sto cercando di fare non è solo costruire un chip semiconduttore, ma anche la matematica e gli algoritmi per ridurre il carico di lavoro", ha detto. "Se un carico di lavoro richiede un centinaio di operazioni, voglio ridurlo a cinquanta operazioni, e se cinquanta operazioni costano meno energia di cento, voglio dire che il mio è un sistema con prestazioni più elevate". 

"Ho molta pazienza [...] Non faccio cose incrementali", afferma il fondatore e CEO Venkat Mattela del suo approccio all'ingegneria e al business. Ha venduto la sua ultima azienda, Redpine Signals, a Silicon Labs nel 2020 per 314 milioni di dollari. 

Mattela sta entrando in un mercato fortemente conteso, in cui startup come Cerebras Systems, Graphcore e SambaNova hanno ricevuto ingenti somme di denaro e dove, nonostante tutti i loro successi, lottano ancora per rovesciare il peso massimo del settore, Nvidia.  

Mattela è incline ad avere una visione a lungo termine. La sua ultima startup, Redpine Signals, è stata costruita in un periodo di quattordici anni, a partire dal 2006. Quella società è stata venduta al produttore di chip Silicon Labs nel marzo del 2020 per 314 milioni di dollari per la sua tecnologia di chip Bluetooth e Wi-Fi a bassa potenza. (Il chip viene ora utilizzato nello smartwatch Garmin Fenix 7 introdotto di recente Garmin Fenix 7.)

La lezione di quei diciassette anni di lavoro a Redpine e ora a Ceremorphic è duplice: "Ho molta pazienza", osservò di se stesso con una risatina. E "Non faccio cose incrementali". 

Mattela sostiene che quando affronta un problema in un'area della progettazione di chip, è in modo tale da anticipare significativamente lo stato dell'arte. La tecnologia dei chip wireless Redpine acquistata da Silicon Labs, ha detto, si è scontrata con le offerte di aziende giganti, Qualcomm e Broadcom in Bluetooth e Wi-FI. 

"Ho accettato una grande sfida, sono andato contro di loro, ma solo con una metrica, wireless a bassissima energia, ventisei volte meno energia rispetto ai migliori del settore", ha detto Mattela.

Ora, Mattela crede di avere un'attenzione altrettanto vincente sulla potenza, insieme ad altre tre qualità che ritiene uniche nel mercato dei chip AI ed essenziali per la disciplina: affidabilità, sicurezza quantistica e capacità di funzionare in più mercati.

Per rendere tutto ciò possibile, Mattela ha mantenuto le risorse dei microprocessori che erano state sviluppate da Redpine, per formare le fondamenta di Ceremorphic, e ha mantenuto diciotto dipendenti di questo sforzo, che ha integrato assumendo altre 131 persone. L'azienda ha uffici sia a San Jose, la sede ufficiale, che in un nuovo scintillante edificio per uffici a Hyderabad, in India.

Mattela ha un elenco intrigante di 26 brevetti statunitensi con il suo nome e un elenco altrettanto intrigante di 14 domande di brevetto statunitensi degli ultimi anni. 

Quello che Mattela chiama "Hierarchical Learning Processor", o HLP, consiste in un elemento di calcolo per l'apprendimento automatico in esecuzione a 2 gigahertz; un'unità a virgola mobile personalizzata alla stessa frequenza di clock; un approccio personalizzato alla pianificazione dei carichi di lavoro multi-threading; e circuiti PCIe gen-6 a 16 corsie appositamente progettati per collegare il processore al processore host di un sistema, come un chip x86.

L'ultima di queste, la parte PCIe, potrebbe quasi essere un'azienda a sé stante, sostiene Mattela. 

"In questo momento, ciò che è in produzione è PCIe-4, quello dominante, e PCIe-5 è iniziato solo l'anno scorso", ha spiegato MattelA. "E con noi, PCIe-6 sarà in produzione nel 2024: possiedo quella tecnologia".

"Sono 12 milioni di dollari se dovessi concedere in licenza", ha detto di PCIe-6. "Questo da solo è un aspetto significativo da progettare". Il collegamento PCIe consentirà a Mattela di perfezionare ulteriormente il consumo energetico di un sistema totale, ha affermato.

Al centro del vantaggio del chip ci sono i circuiti analogici che si trovano sotto il digitale. Alcune aziende hanno utilizzato ampiamente i circuiti analogici per l'elaborazione dell'intelligenza artificiale, la più nota è la startup Mythic, che nel 2020 ha rivelato un chip in grado di moltiplicare vettori e matrici - il cuore dell'apprendimento automatico - non come moltiplicazioni digitali ma come combinazioni di forme d'onda di energia continua in conformità con la legge di Ohm, ciò che l'azienda chiama calcolo analogico.

Il chip Ceremorphic HLP utilizzerà il calcolo analogico in modo più selettivo rispetto a Mythic, ha detto Mattela a ZDNet. 

"Al livello più basso della gerarchia" delle funzionalità dei chip, "faccio calcolo analogico", ha spiegato Mattela. "Ma a livello più alto, non faccio l'analogico perché voglio rendere il modello di programmazione più semplice". 

Ciò significa "ventitré modelli" per moltiplicare-accumulare in analogico tramite la micro-architettura dell'HLP. Le moltiplicazioni analogiche saranno un uso più efficiente della tensione rispetto a quelle digitali, ha sostenuto.

"A un livello più alto, sembra una combinazione di elaborazione vettoriale e elaborazione del percorso dei dati".

Le varie caratteristiche del chip contribuiranno a rendere possibili le quattro qualità promosse da Mattella. 

Oltre al funzionamento efficiente dal punto di vista energetico, c'è l'affidabilità. Il silicio AI ha un problema di affidabilità oggi, ha affermato Mattela.

I chip di apprendimento automatico sono diventati molto più grandi dei microprocessori convenzionali. La GPU "A100" di Nvidia è già abbastanza pesante, per gli standard classici, 826 millimetri quadrati. Ma i nuovi chip delle startup possono essere molto più grandi, come il chip WSE-2 di Cerebras, che misura 45.225 millimetri quadrati, quasi l'intera superficie di un wafer di silicio da otto pollici. 

"Quando si ha più silicio, c'è una maggiore possibilità di guasto perché ci sono particelle alfa, bombardamento di neutroni", ha osservato Mattela. "Negli ultimi due anni, la gente sta già dicendo che i miei sistemi non funzionano nel data center".

Mattela afferma che una combinazione hardware-software unica consentirà al suo chip di "prevedere i guasti e correggerli".

"L'ingegneria affidabile del calcolo delle prestazioni è il nostro contributo chiave", ha affermato.

La terza qualità che Mattela sta sottolineando è la sicurezza, compresa la protezione contro i futuri sistemi quantistici che potrebbero plausibilmente infrangere la sicurezza dei dati convenzionale.

«Finora, i sistemi di sicurezza sono stati progettati per contrastare l'hacking da parte dell'uomo», spiega Mattela. "Ma andando avanti, non si può presumere che la potenza di calcolo sarà limitata e che ci vorranno due giorni per romperla [un sistema], è meglio presumere forse due minuti!"

Il chip Ceremorphic ha "una generazione di numeri casuali resistente ai quanti", ha detto Mattela, che "non può essere decifrata da un computer ad altissime prestazioni". In termini pratici, ha detto Mattela, ciò significa che un sistema del genere impiegherebbe forse un mese per rompersi, offrendo al cliente il tempo di cambiare la chiave di sicurezza per sventare l'attacco.

La quarta proprietà è quella che Mattela chiama ridimensionamento. Ciò che Mattela intende con questo è rivolgersi a più mercati con un unico chip. Il chip sarà in grado di funzionare nell'apprendimento profondo, nelle applicazioni automobilistiche, nella robotica, nelle scienze della vita e in una sorta di futura applicazione del Metaverso. 

Lo stesso HLP servirà sia per l'addestramento che per l'inferenza, i due aspetti dell'apprendimento automatico.

La scalabilità in più mercati, ha affermato Mattela, renderà il suo chip più rilevante rispetto a quelli dei concorrenti. Sostiene che startup come Cerebras sono impressionanti ma non così rilevanti. 

"È un'ingegneria molto raffinata, sì, e puoi sempre fare qualcosa che nessun altro può fare, ma il tuo scopo non è fare qualcosa che nessuno fa", ha detto Mattela. 

"Il tuo scopo è quello di creare un risultato in cui tutti fanno soldi, e ha un impatto, ha un certo valore per il mercato".  

Naturalmente, Cerebras e gli altri stanno spedendo i prodotti, mentre Mattela non ha ancora prodotto campioni. 

Per rendere il design di Ceremorphic un vincitore, Mattela ha quello che sembrerebbe essere un asso nella sua tasca: il processo di chip a 5 nanometri di Taiwan Semi, che è una delle "tecnologie avanzate" del gigante manifatturiero, un processo di chip a cui non tutti i clienti hanno accesso. 

"Quando dico alla gente che sto facendo 5 nanometri, dicono: come si può ottenere 5 nanometri", ha detto Mattela, con evidente gioia. "Alcune di queste aziende con centinaia di milioni di finanziamenti non sono a 5 nm; Sono a 7 nm".

Uno dei motivi è uno stretto rapporto che Mattela ha coltivato con TSM anni fa, quando lavorava per il gigante dei chip analogici Analog Devices. Ancora più importante, la sua vendita di Redpine a Silicon Labs ha aumentato la sua credibilità. TSM, dice, ha dovuto credere di poter portare a compimento il suo prodotto, perché solo allora TSM viene pagata per intero.

"Ci vogliono molti, molti anni", ha detto Mattela, riferendosi al processo di produzione. "Devo spendere 200 milioni di dollari, devo produrre un chip, il chip deve funzionare, e poi se funziona, loro [TSM] saranno pagati in quel momento". 

Il team di Mattela ha progettato il chip come prototipo inizialmente in quella che viene chiamata una corsa a navetta, un piccolo lotto di chip, nel processo leggermente meno sofisticato a 7 nanometri. Quest'anno l'azienda espanderà i suoi lotti di shuttle run a 5 nanometri. 

Mentre Ceremorphic prevede di fornire i primi campioni ai clienti del suo chip il prossimo anno, la produzione su larga scala a 5 nanometri probabilmente non avverrà prima del 2024, afferma. "Queste sono date molto aggressive" per la progettazione in un processo all'avanguardia come il 5-nano, ha osservato Mattela della timeline.

Un fattore di controllo è un costo. Sottolinea che passare dalla corsa in navetta all'uso completo di un wafer - ciò che è noto come maschera completa - è la differenza tra $2 milioni e oltre $10 milioni. 

Per questo, Ceremorphic avrà bisogno di raccogliere ulteriore capitale. Finora, Ceremorphic è autofinanziata, con Mattela, amici e familiari che hanno messo insieme 50 milioni di dollari in un round di serie A, una quantità di finanziamento estremamente piccola rispetto alle startup di chip AI come SambaNova che hanno ricevuto miliardi di capitale di rischio. 

Il percorso preferito da Mattela per i finanziamenti futuri, ha detto, è attraverso le partnership, anche se un round di investimento formale di serie B è possibile anche nel 2023. 

La prima istanza dell'HLP sarà come una scheda PCI che raggruppa ciò di cui il chip ha bisogno per funzionare in un sistema informatico. "L'obiettivo sono i tipici OEM di sistemi", ha affermato. Crede che questa via verso il mercato renderà la sua macchina più ampiamente disponibile. 

"Ogni azienda ha bisogno di un supercomputer per l'addestramento", ha affermato. "Voglio fornire il supercomputer per l'addestramento che possa essere accessibile a ogni azienda". 

In contrasto con qualcosa di mastodontico come quello di Facebook

Research SuperComputer for AI - 6.080 GPU e 175 petabyte di memoria flash - il blade PCI ceremorfico avrebbe lo scopo di rendere la tecnologia più accessibile.

"Se posso fornire un decimo di un computer delle dimensioni di un edificio in una scatola, questo è il punto giusto".

Anche se la sua parte non è ancora stata spedita, Mattela sta già prevedendo una rapida scossa nel mercato delle startup di chip AI. Gli sfidanti come Graphcore hanno raccolto molti soldi e realizzato pochissime entrate; ipotizza che sia solo una frazione di ciò che Nvidia guadagna in un quarto di intelligenza artificiale. 

"Oggi ci sono quattro o cinque aziende; oggi hanno quasi cinque miliardi [di capitale raccolto], sono un sacco di soldi", ha detto Mattela. Ma "l'azienda numero uno, ogni trimestre guadagna due miliardi di dollari", riferendosi alle entrate dei data center di Nvidia.

"Se non guadagni nemmeno l'1% dell'azienda numero uno e stai perdendo soldi, non è un business",  ha detto Mattela.

La scossa arriverà prima o poi, profetizza Mattella, a causa della dissolutezza. "Nel mercato caldo di oggi, sono andati a prendere soldi, buon per loro, ma qualunque denaro abbiano ottenuto, non credo che abbiano davvero capito come spendere i soldi perché l'importo speso è semplicemente anormale", ha detto.

Gli ingegneri junior vengono pagati ingenti somme dalle startup di intelligenza artificiale, sostiene. "Se una matricola riceve $200.000 [di stipendio annuo], non è sostenibile", ha detto, usando il gergo dell'industria tecnologica per la posizione più giovane, "perché il ragazzo sarà produttivo dopo due anni, ma, a quel punto, i soldi sono già finiti".