Cerebras e l'M42 di Abu Dhabi hanno realizzato un LLM dedicato a rispondere a domande mediche

La rete neurale open source Med42 è stata messa a punto con un set di dati di 700.000 coppie di domande e risposte.

Le applicazioni dell’intelligenza artificiale in ambito sanitario sono numerose. Ma sono in gran parte dominati dalla vecchia tecnologia AI; cose più nuove come la cosiddetta intelligenza artificiale generativa e i modelli linguistici di grandi dimensioni (LLM) sono la mania del momento, ma sono ritenuti troppo rischiosi per essere utilizzati su larga scala nell'assistenza sanitaria data la natura sensibile delle applicazioni sanitarie, come ha fatto ZDNET recentemente segnalato.

Gli sforzi nel software open source potrebbero aiutare a far avanzare l’intelligenza artificiale generativa rendendo un po’ più semplice guardare all’interno della “scatola nera” dell’intelligenza artificiale rispetto a programmi chiusi come ChatGPT di OpenAI.

In questo spirito, la scorsa settimana, il produttore di computer AI Cerebras Systems ha annunciato uno sforzo congiunto con il partner M42, un operatore di strutture sanitarie in 27 paesi, per offrire un LLM open source progettato per applicazioni sanitarie, per fungere da "assistente" per gli operatori sanitari .

Il programma, chiamato Med42, è un perfezionamento di Llama 2, il LLM open source rilasciato quest'anno da Meta Properties, utilizzando uno speciale set di dati relativi alla salute compilato dalle aziende.

"Sta aprendo la strada all'uso dell'intelligenza artificiale nella fornitura di assistenza sanitaria", ha affermato il cofondatore e CEO di Cerebras Andrew Feldman in un'intervista a ZDNET.

Secondo le aziende, le applicazioni del programma come assistente dei medici includono la risposta a domande mediche, il riepilogo delle cartelle cliniche dei pazienti, l'ausilio alla diagnosi medica e domande e risposte sulla salute generale. Non comprende la formazione dei medici, hanno sottolineato.

Il programma Med42 utilizza la versione da 70 miliardi di parametri di Llama 2. Il lavoro di messa a punto è stato eseguito da Cerebras e M42 in collaborazione con Core42, una società di servizi gestiti e IT che svolge ricerche fondamentali sull'intelligenza artificiale. Sia M42 che Core42 sono di proprietà del cliente Cerebras G42, un conglomerato globale.

La rete neurale Med42 è stata messa a punto con un set di dati di 700.000 coppie di domande e risposte provenienti da fonti disponibili al pubblico, "curato da M42 e rivisto dal nostro team di esperti medici", ha affermato M42 in un'e-mail a ZDNET. "Il set di dati includeva domande a scelta multipla, flashcard mediche, tra gli altri", ha affermato.

"Med42 non è stato addestrato utilizzando i dati dei pazienti o le informazioni di identificazione personale", ha affermato M42.

Il codice M42 è ora disponibile su HuggingFace, insieme ai dati sulle prestazioni.Le aziende prevedono di rilasciare miglioramenti man mano che "perfezionano e testano il modello in collaborazione" con gli operatori sanitari "per contribuire a migliorarne le capacità e le prestazioni. " Alla domanda se il set di dati verrà rilasciato, le aziende hanno risposto via e-mail a ZDNET: "Questo è ancora da determinare".

La messa a punto è stata effettuata su Condor Galaxy, un enorme computer AI che Cerebras ha costruito quest'anno per G42, che Cerebras definisce "il più grande supercomputer al mondo per l'intelligenza artificiale". Secondo Cerebras, "La configurazione rapida e i tempi di addestramento ridotti sono stati resi possibili dagli 82 terabyte di memoria e dai 54 milioni di core AI nei 64 sistemi Cerebras CS-2 all'interno di CG-1."

"Quello che hai sono tutte queste interessanti applicazioni eseguite su Condor Galaxy, e questo è diverso dall'hardware di qualsiasi altra startup", ha detto Feldman. "Stiamo davvero facendo avanzare il settore."

Feldman ha osservato in un'e-mail di follow-up che "Tutti i parametri [di Llama 2] sono stati ottimizzati, e ciò è stato reso possibile dalla vasta memoria disponibile su Condor Galaxy 1 […] La configurazione e l'addestramento per 3 Epoche è stato realizzato in 5 giorni, che avrebbero richiesto mesi su un grande cluster di GPU."

Nei dati sulle prestazioni di HuggingFace, le aziende notano che "Med42 raggiunge prestazioni competitive su vari benchmark medici, tra cui argomenti clinici MedQA, MedMCQA, PubMedQA, HeadQA e Measurement Massive Multitask Language Understanding (MMLU)."

Nell'esame di licenza medica degli Stati Uniti, o USMLE, esame di esempio, il programma "raggiunge una precisione del 72%", secondo M42, "superando lo stato dell'arte precedente tra i LLM medici liberamente disponibili". Ha anche superato con un ampio margine il GPT 3.5 closed source di OpenAI, che ha ottenuto una precisione del 59,6%, sebbene Med42 non sia riuscito a raggiungere la precisione dell'84,3% di GPT4.

"Prendi un modello pre-addestrato molto grande come Llama 2 70 miliardi, e se gli aggiungi set di dati davvero interessanti, set di dati pionieristici, puoi fargli fare cose davvero interessanti, e fatte in una frazione del tempo e della assorbimento di potenza di qualcosa come GPT 3.5," ha detto Feldman.

Cerebras è stata particolarmente attiva nei progetti open source negli ultimi tempi. A marzo l’azienda ha pubblicato come open source diverse versioni di programmi di intelligenza artificiale generativa da utilizzare senza restrizioni.

Ad agosto, l'azienda ha presentato il programma LLM in lingua araba più potente al mondo, Jais-Chat, come programma open source.

Per il momento Med42 non è in produzione. "Dopo il successo dei test, Med42 sarà reso disponibile per l'implementazione clinica", hanno affermato le società in una e-mail a ZDNET.

"È importante sottolineare che Med42 avrà la capacità di essere implementato on-premise, completamente personalizzato in base alle esigenze degli operatori sanitari, utilizzando fonti di dati di proprietà e limitando la possibilità di intrusioni esterne", hanno aggiunto. "Diamo priorità all'applicazione sicura della tecnologia rispetto alla velocità di produzione e ci impegniamo a effettuare un'approfondita valutazione della sicurezza del modello prima di lanciarlo sul mercato."