L'acquisto da 1,3 miliardi di dollari da parte di Databricks della startup di intelligenza artificiale MosaicML è una battaglia per il futuro del database

MosaicML ha lavorato per reinventare ciò che è un database tramite l'intelligenza artificiale.

Naveen Rao, co-fondatore e CEO di [a sinistra] MosaicML, e Hanlin Tang, co-fondatore e CTO. Le tecnologie di formazione dell'azienda vengono applicate agli "esperti di costruzione", utilizzando modelli linguistici di grandi dimensioni in modo più efficiente per gestire i dati aziendali.

Lunedì, Databricks, un produttore di software di dieci anni con sede a San Francisco, ha annunciato che avrebbe acquisito MosaicML, una startup di tre anni con sede a San Francisco focalizzata sullo sviluppo dell’intelligenza artificiale oltre il laboratorio, per 1,3 miliardi di dollari.

L’accordo è un segno non solo del fervore per le risorse nel mercato dell’intelligenza artificiale generativa, ma anche un segno della natura mutevole del moderno mercato dei database cloud.

MosaicML, composto da veterani dei semiconduttori, ha creato un programma chiamato Composer che rende facile e conveniente prendere qualsiasi versione standard di programmi di intelligenza artificiale come GPT di OpenAI e accelerare notevolmente lo sviluppo di quel programma, la fase iniziale nota come formazione di un rete neurale.

Quest'anno l'azienda ha introdotto servizi commerciali basati su cloud in cui le aziende possono, a pagamento, addestrare una rete neurale ed eseguire inferenze, ovvero il rendering di previsioni in risposta alle domande degli utenti.

Tuttavia, l'elemento più profondo dell'approccio di MosaicML implica che intere aree di lavoro con i dati, come il tradizionale database relazionale, potrebbero essere completamente reinventate.

"I modelli di rete neurale possono in realtà essere pensati quasi come una sorta di database, soprattutto quando parliamo di modelli generativi", ha detto a ZDNET Naveen Rao, co-fondatore e CEO di MosaicML, in un'intervista prima dell'accordo.

"Ad un livello molto alto, ciò che è un database è un insieme di endpoint che sono tipicamente molto strutturati, quindi tipicamente righe e colonne di qualche tipo di dati, e poi, in base a quei dati, c'è uno schema su cui organizzare ", ha spiegato Rao.

A differenza di un database relazionale tradizionale, come Oracle, o di un database di documenti, come MongdoDB, ha detto Rao, dove lo schema è preordinato, con un ampio modello linguistico, "lo schema viene scoperto [dai dati], produce una rappresentazione latente sulla base dei dati, è flessibile." Inoltre, la query è flessibile, a differenza delle ricerche fisse in un database come SQL, che domina i database tradizionali.

"Quindi, in pratica", ha aggiunto Rao, "hai preso il database, hai allentato i vincoli sui suoi input, schema e output, ma è un database." Sotto forma di un modello linguistico di grandi dimensioni, un database di questo tipo, inoltre, può gestire grandi quantità di dati che sono sfuggiti ai tradizionali archivi di dati strutturati.

"Posso importare un sacco di libri di un autore e posso interrogare idee e relazioni all'interno di quei libri, cosa che non puoi fare solo con il testo", ha detto Rao.

Utilizzando un prompt intelligente in un LLM, il contesto del prompt offre modi flessibili per interrogare il database. "Quando lo richiedi nel modo giusto, riuscirai a fargli produrre qualcosa grazie al contesto creato dal prompt", ha spiegato Rao. "E, quindi, puoi interrogare aspetti dei dati originali da quello, che è un concetto piuttosto ampio che può applicarsi a molte cose, e penso che sia proprio questo il motivo per cui queste tecnologie sono molto importanti."

Il lavoro di MosaicML fa parte di un ampio movimento per rendere i cosiddetti programmi di intelligenza artificiale generativa come ChatGPT più rilevanti per scopi aziendali pratici.

Ad esempio, Snorkel, una startup di intelligenza artificiale nata tre anni fa con sede a San Francisco, offre strumenti che consentono alle aziende di scrivere funzioni che creano automaticamente dati di addestramento etichettati per i cosiddetti modelli di base, le più grandi reti neurali esistenti, come GPT di OpenAI. -4.

E un'altra startup, OctoML, la scorsa settimana ha presentato un servizio per facilitare il lavoro di fornitura dell'inferenza.

L'acquisizione da parte di Databricks porta MosaicML in un vivace mercato di database non relazionali che da diversi anni sta spostando il paradigma di un archivio dati oltre righe e colonne.

Ciò include il data Lake di Hadoop, le tecniche per operare su di esso e il paradigma di mappatura e riduzione di Apache Spark, di cui Databricks è il principale sostenitore. Il mercato comprende anche tecnologie di streaming di dati, in cui la memorizzazione dei dati può in un certo senso trovarsi nel flusso di dati stesso, noto come "dati in movimento", come il software Apache Kafka promosso da Confluent.

MosaicML, che ha raccolto 64 milioni di dollari prima dell'accordo, si rivolgeva ad aziende con modelli linguistici che non sarebbero tanto i generalisti del modulo ChatGPT ma più focalizzati su casi d'uso aziendali specifici del dominio, quelli che Rao chiamava "esperti di costruzione".

La tendenza prevalente nell'intelligenza artificiale, inclusa l'intelligenza artificiale generativa, è stata quella di costruire programmi sempre più generali, in grado di gestire compiti in tutti i tipi di ambiti, dal giocare ai videogiochi, all'impegnarsi in chat, alla scrittura di poesie, ai sottotitoli delle immagini, alla scrittura di codici. e persino controllare un braccio robotico che impila blocchi.

Il fervore per ChatGPT dimostra quanto possa essere avvincente un programma così ampio quando può essere utilizzato per gestire un numero qualsiasi di richieste.

Eppure, è probabile che l’uso dell’intelligenza artificiale in natura, da parte di individui e istituzioni, sia dominato da approcci molto più mirati perché possono essere molto più efficienti.

"Posso costruire un modello più piccolo per un particolare dominio che supera di gran lunga un modello più grande", ha detto Rao a ZDNET.

MosaicML si è fatto un nome con i risultati ottenuti in termini di prestazioni dimostrando la sua abilità nei test benchmark MLPerf che mostrano la velocità con cui può essere addestrata una rete neurale. Tra i segreti per accelerare l’intelligenza artificiale c’è l’osservazione che reti neurali più piccole, costruite con maggiore attenzione, possono essere più efficienti.

Questa idea è stata ampiamente esplorata in un articolo del 2019 degli scienziati del MIT Jonathan Frankle e Michael Carbin che ha vinto il premio per il miglior articolo quell’anno alla Conferenza internazionale sulle rappresentazioni dell’apprendimento. L’articolo ha introdotto l’”ipotesi del biglietto della lotteria”, l’idea secondo cui ogni grande rete neurale contiene “sottoreti” che possono essere altrettanto precise quanto la rete totale, ma con meno sforzo di calcolo.

Frankle e Carbin sono stati consulenti di MosaicML.

MosaicML si basa inoltre esplicitamente sulle tecniche esplorate dall'unità DeepMind di Google che mostrano che esiste un equilibrio ottimale tra la quantità di dati di addestramento e la dimensione di una rete neurale. Aumentando fino al doppio la quantità di dati di addestramento, è possibile rendere una rete più piccola molto più precisa di una più grande dello stesso tipo.

Tutte queste efficienze sono incapsulate da Rao in quella che lui chiama una sorta di Legge di Moore sull'accelerazione delle reti. La legge di Moore è la regola pratica dei semiconduttori che postula, approssimativamente, che la quantità di transistor in un chip raddoppierebbe ogni 18 mesi, allo stesso prezzo. Questo è il miracolo economico che ha reso possibile la rivoluzione dei PC, seguita poi da quella degli smartphone.

Nella versione di Rao, le reti neurali possono diventare quattro volte più veloci ad ogni generazione, semplicemente applicando i trucchi dello smart computing con lo strumento MosaicML Composer.

Da un simile approccio derivano diverse intuizioni sorprendenti. In primo luogo, contrariamente alla frase spesso ripetuta secondo cui le forme di intelligenza artificiale di apprendimento automatico richiedono enormi quantità di dati, è possibile che set di dati più piccoli possano funzionare bene se applicati nell'equilibrio ottimale di dati e modello à la lavoro di DeepMind. In altre parole, i big data potrebbero non essere dati migliori.

A differenza delle gigantesche reti neurali generichecome GPT-3, che sono addestrate a tutto su Internet, le reti più piccole possono essere il depositario della conoscenza unica di un'azienda sul suo dominio.

"La nostra infrastruttura diventa quasi il back-end per costruire questo tipo di reti sui dati delle persone", ha spiegato Rao. "E c'è tutta una ragione per cui le persone hanno bisogno di costruire i propri modelli."

"Se fai parte della Bank of America, o se fai parte della comunità dell'intelligence, non puoi usare GPT-3 perché è addestrato su Reddit, ha addestrato un sacco di cose che potrebbero anche contenere informazioni di identificazione personale, e potrebbe avere roba di cui non è stato esplicitamente consentito l'uso", ha detto Rao.

Per questo motivo MosaicML ha contribuito a rendere disponibili modelli open source di modelli linguistici di grandi dimensioni, in modo che i clienti sappiano che tipo di programma sta agendo sui loro dati. È una visione condivisa da altri leader dell'intelligenza artificiale generativa, come il fondatore e CEO di Stability.ai Emad Mostaque, che a maggio ha dichiarato a ZDNET: "Non è possibile utilizzare modelli a scatola nera" per i dati più preziosi del mondo, compresi quelli aziendali. dati.

MosaicML giovedì scorso ha rilasciato come open source la sua ultima versione di un modello linguistico - contenente 30 miliardi di parametri, o pesi neurali - chiamato MPT-30B. L'azienda afferma che MPT-30B supera la qualità del GPT-3 di OpenAI. Da quando l'azienda ha introdotto i modelli linguistici open source all'inizio di maggio, ha registrato oltre due milioni di download dei modelli linguistici.

Sebbene la scoperta automatica dello schema possa rivelarsi fruttuosa per l'innovazione del database, è importante tenere presente che i modelli linguistici di grandi dimensioni presentano ancora problemi come le allucinazioni, in cui il programma produrrà risposte errate pur insistendo che siano reali.

"Le persone in realtà non capiscono che quando chiedi qualcosa a ChatGPT, molte volte non è corretto, e talvolta sembra così corretto, come un artista di stronzate davvero bravo", ha detto Rao.

"I database hanno un'aspettativa di assoluta correttezza, di prevedibilità", basata su "molte cose che sono state progettate negli ultimi 30, 40 anni nello spazio dei database che devono essere vere, o almeno per lo più vere, per qualche tipo di un nuovo modo di farlo", ha osservato Rao.

"Le persone lo considerano [i grandi modelli linguistici] come se potessero risolvere tutti i problemi che hanno avuto", ha detto Rao riferendosi all'interesse aziendale. "Cerchiamo di capire gli aspetti pratici per arrivarci effettivamente."