Il pioniere dell'intelligenza artificiale Cerebras sta vivendo un "anno mostruoso" nel campo dell'intelligenza artificiale ibrida

Il produttore di computer AI sta trovando un nuovo ruolo costruendo enormi cluster di computer utilizzati per tutti i tipi di compiti scientifici e di intelligenza artificiale.

Il fondatore di Cerebras, Andrew Feldman, parla delle casse di imballaggio per Condor Galaxy 1, o "CG-1", un computer AI massivamente parallelo costruito per il client G42.

Il mondo è affamato di chip GPU del fornitore dominante di intelligenza artificiale, Nvidia. Finora ciò non ha prodotto un aumento significativo delle vendite di chip da parte dei concorrenti Advanced Micro Devices e Intel. Ma potrebbe aiutare a costruire un nuovo tipo di modello informatico.

"È sempre più evidente che esista, in un certo senso, un'alternativa a Nvidia", ha affermato Andrew Feldman, co-fondatore e CEO della startup di informatica AI Cerebras Systems, che vende un enorme computer AI, il CS-2, che esegue il chip più grande del mondo. .

Feldman e il suo team hanno iniziato a vendere computer per competere con le GPU di Nvidia quattro anni fa. Sulla strada per il mercato è successa una cosa divertente. Feldman scopre sempre più che la sua attività è ibrida, dove ci sono alcune vendite di singoli sistemi, ma vendite molto maggiori di sistemi massicciamente paralleli che Cerebras costruisce nel corso di mesi, quindi gestisce per conto dei clienti come servizio di cloud computing AI dedicato.

Il business "è cambiato completamente" per Cerebras, ha detto Feldman a ZDNET. "Piuttosto che acquistare una o due macchine e svolgere un lavoro [informatico] su una macchina per una settimana, i clienti preferirebbero averlo su 16 macchine per poche ore" come modello di servizio cloud.

Il risultato per Cerebras è: "Per le vendite di hardware, puoi concludere meno affari, ma più grandi, e dedicherai molto tempo e impegno nella gestione del tuo cloud".

Lunedì, in una conferenza sui supercalcoli a Denver chiamata SC23, Feldman e il suo team hanno svelato l’ultimo risultato di quel cloud AI in espansione.

La società ha annunciato di aver completato la costruzione di un enorme computer AI, Condor Galaxy 1, o "CG-1", costruito per il cliente G42, una società di investimento fondata cinque anni fa con sede ad Abu Dhabi, negli Emirati Arabi Uniti.

"Ora abbiamo così tanta capacità di supercalcolo che altre persone stanno utilizzando il nostro sistema in tutti i modi creativi", ha affermato Feldman di Condor Galaxy.

Condor Galaxy, annunciata all'inizio di quest'anno, prende il nome da una galassia a spirale situata a 212 milioni di anni luce dalla Terra. La macchina è una raccolta di 64 CS-2 di Cerebras. Il valore totale del CG-1 equivale, ha affermato Feldman, a poco meno del costo di un numero equivalente di chip GPU di Nvidia, nell'ordine di 150 milioni di dollari, in base al prezzo del computer "DGX" a 8 vie di Nvidia. .

"Questo è un ottimo affare", ha detto Feldman riferendosi a vendite di biglietti così ingenti. "Stiamo vivendo un anno mostruoso" in termini di vendite, ha detto. "Genereremo più vendite in questo trimestre rispetto a tutte le altre startup di intelligenza artificiale nella loro storia messe insieme", ha aggiunto Feldman, alludendo a concorrenti come Graphcore e Samba Nova Systems.

La macchina Condor Galaxy non è fisicamente ad Abu Dhabi, ma piuttosto installata presso le strutture di Colovore con sede a Santa Clara, in California, un provider di hosting che compete nel mercato dei servizi cloud con aziende del calibro di Equinix.

Cerebras sta iniziando la costruzione della seconda versione di Condor Galaxy, la numero due, o "CG-2", che aggiungerà altri 64 computer e altri quattro "exaFLOPS" di potenza di calcolo. (Un exaFLOP è un miliardo, miliardi di operazioni in virgola mobile al secondo, vedi Wikipedia), per un totale combinato di 8 exaFLOP per il sistema Condor Galaxy.

Si prevede che il sistema Condor Galaxy raggiungerà, nella sua configurazione finale, 36 exaFLOP, utilizzando 576 computer CS-2, supervisionati da 654.000 core CPU AMD.

Nel nuovo modello di business ibrido, ha affermato Feldman, la misura del successo non diventa solo le vendite del sistema, ma anche il tasso di nuovi clienti che affittano capacità nel cloud Cerebras senza alcun acquisto anticipato. "A volte spedivi loro l'hardware e loro lo configuravano, e tu eseguivi una prova o lo dimostravi da loro, e ora ti forniamo un login", ha spiegato Feldman della nuova modalità di vendita.

Anche il colosso farmaceutico GlaxoSmithKline, uno dei primi clienti dell'hardware CS-2, sta affittando capacità nel cloud di Cerebras, ha affermato Feldman. "Hanno la nostra attrezzatura in sede e poi, quando vogliono fare corse giganti, entrano nel nostro cloud", ha spiegato. "E questo è un modello molto interessante."

"Ora abbiamo, in un certo senso, così tanta capacità di supercalcolo che altre persone stanno utilizzando il nostro sistema in tutti i modi creativi", ha affermato Feldman. "Nello spazio dell'intelligenza artificiale, stanno formando modelli interessanti, e nello spazio del super-calcolo, stanno facendo un lavoro interessante - e questo non è il caso di nessun altro."

Feldman ha citato come "incredibilmente interessante" il lavoro di intelligenza artificiale svolto su Condor Galaxy lo sviluppo di un modello linguistico di grandi dimensioni open source, simile al GPT di OpenAI. Quel programma è il modello con le migliori prestazioni con 3 miliardi di "parametri" di rete neurale sul repository di machine learning Hugging Face, ha osservato Feldman, con oltre un miliardo di download. Quel programma è abbastanza piccolo da poter essere eseguito su uno smartphone per eseguire l'inferenza dell'intelligenza artificiale, che è l'intenzione, ha affermato Feldman.

Come esempio di lavoro scientifico, Feldman ha citato un documento di ricerca di studiosi della King Abdullah University of Science and Technology in Arabia Saudita che è stato finalista per il prestigioso Gordon Bell Award assegnato dall'Association for Computing Machinery, organizzatore dell'evento SC23.

"Abbiamo prestato loro del tempo su Condor Galaxy in modo che potessero battere i record per l'elaborazione sismica", ha osservato Feldman.

La prima versione di Condor Galaxy, CG-1, ha richiesto 70 giorni per essere completata, ha affermato Feldman. La macchina CG-2 sarà completata "all'inizio del prossimo anno". L'azienda sta già pianificando Condor Galaxy-3, che aggiungerà altre 64 macchine e altri 4 exaFLOPS, per un totale del sistema di 12 exaFLOPS.

Uno dei principali vantaggi di una macchina come il Condor Galaxy, sia 1 che 2, ha affermato Feldman, è l'ingegneria dei sistemi. Mettere insieme un numero equivalente di chip GPU è incredibilmente difficile, ha detto a ZDNET. "Il numero di persone che possono collegare in rete un migliaio di GPU è molto piccolo", ha affermato Feldman. "Si tratta, forse, di 25 aziende."

"È molto difficile ottenere un uso efficiente di un calcolo così distribuito, è un problema molto, molto difficile", ha affermato Feldman. "Questo è uno dei problemi che risolviamo fondamentalmente."

Ogni computer CS-2 in Condor Galaxy 1 e 2 contiene uno dei nuovi chip AI di Cerebras, il "Wafer-Scale-Engine" o WSE. Questi chip, i più grandi al mondo, contengono ciascuno 850.000 "core" individuali per elaborare le istruzioni dell'intelligenza artificiale in parallelo, rendendoli l'equivalente di più chip GPU.

Inoltre, i computer CS-2 sono integrati dallo switch "tessuto" speciale di Cerebras, lo Swarm-X, e dal suo hub di memoria dedicato, il Memory-X, che vengono utilizzati per raggruppare insieme i CS-2.