Red Hat rivela importanti miglioramenti all'intelligenza artificiale di Red Hat Enterprise Linux
Solo poche settimane dopo il rilascio di Red Hat Enterprise Linux AI, Red Hat ha lanciato la versione successiva: RHEL AI 1.2.
Beh, è stato veloce. Solo all'inizio di settembre Red Hat ha rilasciato Red Hat Enterprise Linux AI (RHEL AI) 1.0. Ora, Red Hat ha annunciato la disponibilità generale di RHEL AI 1.2. Quest'ultima versione introduce numerosi miglioramenti chiave volti a semplificare lo sviluppo, il test e l'implementazione di modelli linguistici di grandi dimensioni (LLM).
Prima di passare alle novità e ai miglioramenti, ecco alcune informazioni su ciò che RHEL AI offre. È progettato per semplificare lo sviluppo, i test e l'implementazione dei modelli di intelligenza artificiale generativa (gen AI). RHEL AI ha anche lo scopo di rendere accessibili i LLM di formazione.
Questa nuova piattaforma combina la famiglia Granite Large Language Model (LLM) con licenza open source di IBM Research, gli strumenti di allineamento InstructLab basati sulla metodologia LAB e un approccio collaborativo allo sviluppo del modello tramite il progetto InstructLab AI open source.
RHEL AI utilizza anche la Retrieval-Augmented Generation (RAG) per consentire agli LLM di accedere alla conoscenza esterna approvata archiviata in database, documenti e altre fonti di dati. Questo approccio migliora la capacità di RHEL AI di fornire la risposta giusta anziché una risposta che sembra corretta.
Questa prossima generazione di RHEL AI vanta un supporto hardware esteso. La nuova versione ora supporta i server Lenovo ThinkSystem SR675 V3, offrendo opzioni di precarico di fabbrica per un'implementazione più rapida e semplice. In un'anteprima tecnologica, RHEL AI 1.2 introduce il supporto per gli acceleratori AMD Instinct, incluse le GPU MI300x per training e inferenza e le GPU MI210 per attività di inferenza.
RHEL AI 1.2 ha inoltre esteso la sua portata alle principali piattaforme cloud: gli utenti possono ora distribuire RHEL AI su Azure e Google Cloud Platform (GCP), oltre al supporto esistente per AWS e IBM Cloud.
Anche il software ha visto miglioramenti significativi. La nuova funzione "Checkpoint periodico" salva lunghe sessioni di allenamento a intervalli regolari durante la messa a punto. Gli utenti possono riprendere l'allenamento dall'ultimo checkpoint salvato invece di ricominciare da capo, risparmiando tempo prezioso e risorse computazionali.
RHEL AI 1.2 viene fornito con PyTorch Fully Sharded Data Parallel (FSDP). Introdotto come anteprima tecnologica, FSDP riduce drasticamente i tempi di addestramento per l'addestramento multifase di modelli con dati sintetici. La tecnologia suddivide i parametri, i gradienti e gli stati dell'ottimizzatore di un modello tra i lavoratori paralleli (ad esempio, GPU), riducendo notevolmente i tempi di formazione.
RHEL AI continua il percorso di Red Hat per rendere la formazione LLM più accessibile a programmatori ed esperti in materia, non solo ai data scientist.
Come ha affermato Joe Fernandes, vicepresidente della Foundation Model Platform di Red Hat: "RHEL AI offre la possibilità agli esperti di dominio, non solo ai data scientist, di contribuire a un modello di intelligenza artificiale creato appositamente per lo scopo nel cloud ibrido, consentendo allo stesso tempo alle organizzazioni IT per scalare questi modelli per la produzione tramite Red Hat OpenShift AI."
In altre parole, con RHEL AI, rendere l'intelligenza artificiale utile per le tue esigenze particolari sta diventando ancora più semplice.
Infine, con il rilascio di RHEL AI 1.2, Red Hat sta anche deprecando il supporto per la versione 1.1, concedendo agli utenti 30 giorni per eseguire l'aggiornamento all'ultima versione. Questa rapida iterazione sottolinea la spinta aggressiva di Red Hat nel mercato dell’intelligenza artificiale aziendale. Nel bene e nel male, lo sviluppo dell’intelligenza artificiale sta accelerando a un ritmo sempre crescente.