IBM raddoppia l'intelligenza artificiale open source con i nuovi modelli Granite 3.0
I LLM Granite di Big Blue sono pensati per le aziende e ora sono disponibili con la buona vecchia licenza Apache 2.0.
Open source e intelligenza artificiale hanno un rapporto difficile. L'intelligenza artificiale non può esistere senza l'open source, ma poche aziende vogliono rendere open source i propri programmi di intelligenza artificiale o modelli linguistici di grandi dimensioni (LLM). Tranne, in particolare, per IBM, che in precedenza rendeva open source i suoi modelli Granite. Ora, Big Blue sta raddoppiando la sua intelligenza artificiale open source con il rilascio dei suoi ultimi modelli Granite AI 3.0 con la licenza Apache 2.0.
IBM ha fatto questo utilizzando dati di pre-addestramento provenienti da set di dati disponibili pubblicamente, come GitHub Code Clean, dati Starcoder, repository di codice pubblico e problemi di GitHub. E IBM ha fatto di tutto per evitare potenziali problemi legali o di copyright.
Perché altre grandi aziende di intelligenza artificiale non lo hanno fatto? Uno dei motivi principali è che i loro set di dati sono pieni di dati protetti da copyright o da altre proprietà intellettuali. Se aprono i loro dati si espongono anche a cause legali. Ad esempio, pubblicazioni di News Corp come il Wall Street Journal e il New York Post denunciano Perplexity per aver rubato i loro contenuti.
I modelli Granite, al contrario, sono LLM progettati specificamente per casi d'uso aziendali, con una forte enfasi sulla programmazione e sullo sviluppo del software. IBM afferma che questi nuovi modelli sono stati addestrati su una quantità di dati tre volte superiore a quelli rilasciati all'inizio di quest'anno. Sono inoltre dotati di maggiore flessibilità di modellazione e supporto per variabili esterne e previsioni mobili.
In particolare, i nuovi modelli linguistici Granite 3.0 8B e 2B sono progettati come modelli "cavalli di battaglia" per l'intelligenza artificiale aziendale, offrendo prestazioni robuste per attività quali Retrieval Augmented Generation (RAG), classificazione, riepilogo, estrazione di entità e utilizzo di strumenti.
Questi modelli sono disponibili anche nelle varianti Instruct e Guardian. Il primo, come promette il nome, aiuta le persone ad apprendere una lingua particolare. Guardian è progettato per rilevare i rischi nei prompt degli utenti e nelle risposte dell'intelligenza artificiale. Ciò è fondamentale perché, come ha osservato l’esperto di sicurezza Bruce Schindler alla conferenza Secure Open-Source Software (SOSS) Fusion, “gli attacchi tempestivi funzionano perché invio i dati dell’intelligenza artificiale che interpreta come comandi” - il che può portare a risposte disastrose.
I modelli di codice Granite vanno da 3 a 34 miliardi di parametri e sono stati addestrati su 116 linguaggi di programmazione e da 3 a 4 terabyte di token, combinando ampi dati di codice e set di dati in linguaggio naturale. Questi modelli sono accessibili attraverso diverse piattaforme, tra cui Hugging Face, GitHub, Watsonx.ai di IBM e Red Hat Enterprise Linux (RHEL) AI. Un set selezionato di modelli Granite 3.0 è disponibile anche su Ollama e Replicate.
Inoltre, IBM ha rilasciato una nuova versione del suo Watsonx Code Assistant per lo sviluppo di applicazioni. Qui, Granite fornisce assistenza di codifica generica in linguaggi come C, C++, Go, Java e Python, con funzionalità avanzate di modernizzazione delle applicazioni per applicazioni Java aziendali. Le funzionalità del codice di Granite sono ora accessibili tramite un'estensione di Visual Studio Code, IBM Granite.Code.
La licenza Apache 2.0 consente sia la ricerca che l'uso commerciale, il che rappresenta un vantaggio significativo rispetto ad altri principali LLM, che possono affermare di essere open source ma vincolano i loro LLM con restrizioni commerciali. L'esempio più notevole di questo è il lama di Meta.
Rendendo questi modelli disponibili gratuitamente, IBM sta riducendo le barriere all’ingresso per lo sviluppo e l’utilizzo dell’intelligenza artificiale. IBM ritiene inoltre, a ragione, che, poiché sono veramente open source, sviluppatori e ricercatori possano rapidamente sviluppare e migliorare i modelli.
IBM sostiene inoltre che questi modelli possono offrire prestazioni paragonabili a modelli molto più grandi e molto più costosi.
Metti tutto insieme e io, per esempio, sono impressionato. È vero, Granite non aiuterà i bambini a fare i compiti o a scrivere il grande romanzo americano sull'intelligenza artificiale, ma ti aiuterà a sviluppare programmi utili e sistemi esperti basati sull'intelligenza artificiale.