Nvidia afferma che può impedire ai chatbot di avere allucinazioni
I chatbot IA spesso fanno notizia per il loro strano comportamento. Il nuovo software di Nvidia potrebbe risolvere questo problema.
Nvidia, il colosso tecnologico responsabile dell'invenzione della prima GPU, un elemento tecnologico ormai cruciale per i modelli di intelligenza artificiale generativa, ha presentato martedì un nuovo software che ha il potenziale per risolvere un grosso problema con i chatbot di intelligenza artificiale.
Il software, NeMo Guardrails, dovrebbe garantire che le applicazioni intelligenti, come i chatbot AI, alimentati da modelli linguistici di grandi dimensioni (LLM) siano "accurate, appropriate, pertinenti e sicure", secondo Nvidia.
Inoltre: I 5 maggiori rischi dell'IA generativa, secondo un esperto
Il software open source può essere utilizzato dagli sviluppatori di intelligenza artificiale per impostare tre tipi di confini per i modelli di intelligenza artificiale: guardrail topici, di sicurezza e di protezione.
I guardrail topici impedirebbero all’applicazione di intelligenza artificiale di esplorare argomenti in aree che non sono necessarie o desiderabili per l’uso previsto. Nvidia fornisce l'esempio di un assistente del servizio clienti che non risponde alle domande sul tempo.
Questo tipo di guardrail sarebbe stato utile per Bing Chat quando fu rilasciato per la prima volta e iniziò a divulgare i segreti dell'azienda.
Le barriere di sicurezza sono un tentativo di affrontare il problema della disinformazione e delle allucinazioni.
Una volta impiegato, garantirà che le applicazioni di intelligenza artificiale rispondano con informazioni accurate e appropriate. Ad esempio, utilizzando il software, è possibile rafforzare i divieti di linguaggio inappropriato e citazioni di fonti credibili.
Le barriere di sicurezza impedirebbero semplicemente alle app di raggiungere applicazioni esterne ritenute non sicure.
Inoltre: secondo questo studio, l'intelligenza artificiale generativa può rendere alcuni lavoratori molto più produttivi
Nvidia afferma che praticamente tutti gli sviluppatori di software saranno in grado di utilizzare NeMo Guardrails poiché sono semplici da usare, funzionano con un'ampia gamma di applicazioni abilitate per LLM e funzionano con tutti gli strumenti utilizzati dagli sviluppatori di app aziendali come LangChain.
La società incorporerà NeMo Guardrails nel suo framework Nvidia NeMo, che è già per lo più disponibile come codice open source su GitHub.
Sarà inoltre offerto come parte della piattaforma software Nvidia AI Enterprise e come servizio tramite Nvidia AI Foundations.