OpenAI ha trovato un modo per rendere i modelli di intelligenza artificiale più logici ed evitare allucinazioni

Un cambiamento nel modo in cui i modelli di intelligenza artificiale si addestrano potrebbe aiutare a prevenire le falsificazioni.

Sebbene i modelli di intelligenza artificiale siano avanzati e possano fare cose straordinarie, sono ancora in grado di commettere errori e produrre risposte errate, note come allucinazioni.

Tutti i principali chatbot AI, inclusi ChatGPT e Google Bard, sono inclini a queste allucinazioni. Sia OpenAI che Google includono anche dichiarazioni secondo cui i loro chatbot potrebbero produrre informazioni errate.

"ChatGPT a volte scrive risposte che sembrano plausibili ma errate o prive di senso", afferma OpenAI in un post sul blog di ChatGPT.

La creazione di informazioni false ha portato a preoccupazioni diffuse circa la diffusione della disinformazione e le sue potenziali conseguenze negative.

In un nuovo post di ricerca, OpenAI afferma di aver trovato un modo per far sì che i modelli di intelligenza artificiale agiscano in modo più logico ed evitino allucinazioni.

OpenAI ha addestrato un modello in grado di risolvere problemi matematici complessi attraverso la "supervisione del processo", un metodo che fornisce feedback per ogni singolo passaggio in contrapposizione alla "supervisione dei risultati", che fornisce feedback sul risultato finale.

Nel documento di ricerca, OpenAI ha testato entrambi i metodi utilizzando il set di dati MATH e ha scoperto che il metodo di supervisione del processo ha portato a "prestazioni significativamente migliori".

"È anche più probabile che la supervisione del processo produca un ragionamento interpretabile, poiché incoraggia il modello a seguire un processo approvato dall'uomo", afferma OpenAI nel documento di ricerca.

OpenAI nota che al di fuori dell’ambito dei problemi matematici, non è noto quanto ampiamente si applicheranno questi risultati, ma è comunque importante esplorarli in altri domini.