L'intelligenza artificiale non sta colpendo un muro, sta semplicemente diventando troppo intelligente per i parametri di riferimento, afferma Anthropic
Man mano che la loro autocorrezione e autoragionamento migliorano, gli ultimi LLM trovano nuove capacità a un ritmo che rende più difficile misurare tutto ciò che possono fare.
Anurag Rana di Bloomberg [a sinistra] parla con Michael Gerstenhaber di Anthropic [al centro] e Vijay Karunamurthy di Scale AI, durante la conferenza di Bloomberg Intelligence su "Gen AI: può mantenere la promessa di produttività?"
Secondo il vicepresidente di Anthropic, un fornitore leader, i grandi modelli linguistici e altre forme di intelligenza artificiale generativa stanno migliorando costantemente nell'"autocorrezione", aprendo possibilità per nuovi tipi di lavoro che possono svolgere, inclusa l'"intelligenza artificiale". dei modelli di intelligenza artificiale.
"Sta diventando molto bravo nell'autocorrezione e nell'autoragionamento", ha affermato Michael Gerstenhaber, responsabile delle tecnologie API presso Anthropic, che costituisce la famiglia Claude di LLM che compete con GPT di OpenAI.
"Ogni due mesi usciamo con un nuovo modello che ha ampliato ciò che i LLM possono fare", ha affermato Gerstenhaber durante un'intervista mercoledì a New York con Anurag Rana di Bloomberg Intelligence. "La cosa più interessante di questo settore è che nuovi casi d'uso vengono sbloccati con ogni revisione del modello."
I modelli più recenti includono la pianificazione delle attività, ad esempio come eseguire attività su un computer come farebbe una persona; ad esempio, ordinare la pizza online.
"La pianificazione dei passaggi interstiziali è qualcosa che ieri non era possibile, ma che è possibile oggi", ha affermato Gerstenhaber riferendosi al completamento di tali attività passo dopo passo.
La discussione, alla quale ha partecipato anche Vijay Karunamurthy, capo tecnologo della startup AI Scale AI, faceva parte di una conferenza di un giorno ospitata da Bloomberg Intelligence per esplorare l'argomento "Gen AI: può mantenere la promessa di produttività?"
Le osservazioni di Gerstenhaber si scontrano con le argomentazioni degli scettici dell'IA secondo cui la Gen AI, e il resto dell'IA più in generale, stanno "sbattendo contro un muro", il che significa che il ritorno di ogni nuova generazione di modelli sta diventando sempre meno.
Lo studioso di intelligenza artificiale Gary Marcus ha avvertito nel 2022 che la semplice creazione di modelli di intelligenza artificiale con sempre più parametri non produrrebbe miglioramenti pari all’aumento delle dimensioni. Marcus ha continuato a ribadire questo avvertimento.
Anthropic, ha affermato Gerstenhaber, si sta spingendo verso ciò che può essere misurato dagli attuali parametri di riferimento dell’intelligenza artificiale.
"Anche se sembra che in qualche modo si stia riducendo gradualmente, è perché stiamo abilitando classi [di funzionalità] completamente nuove, ma abbiamo saturato i benchmark e la capacità di svolgere attività più vecchie", ha affermato Gerstenhaber. In altre parole, diventa più difficile misurare cosa possono fare gli attuali modelli di intelligenza artificiale della generazione.
Sia Gerstenhaber che Karunamurthy di Scale AI hanno sostenuto che “scalare” la Gen AI - rendendo i modelli di intelligenza artificiale più grandi - sta aiutando a far avanzare tali reti neurali autocorrettive.
"Stiamo sicuramente assistendo a un sempre maggiore ridimensionamento dell'intelligenza", ha affermato Gerstenhaber. "Uno dei motivi per cui non pensiamo necessariamente che stiamo andando a sbattere contro un muro con la pianificazione e il ragionamento è che stiamo solo imparando proprio ora quali sono i modi in cui i compiti di pianificazione e ragionamento devono essere strutturati in modo che i modelli possano adattarsi a un'ampia varietà di nuovi ambienti che non hanno provato a superare."
"Siamo ancora agli inizi", ha detto Gerstenhaber. "Stiamo imparando dagli sviluppatori di applicazioni cosa stanno cercando di fare e cosa [il modello linguistico] fa male, e possiamo integrarlo nel LM."
Parte di questa scoperta, ha affermato Gerstenhaber, ha a che fare con la velocità della ricerca fondamentale presso Anthropic. Tuttavia, in parte ha a che fare con l'apprendimento ascoltando "ciò che l'industria ci dice di aver bisogno da noi e la nostra capacità di adattarci a ciò: stiamo imparando moltissimo in tempo reale".
I clienti tendono a iniziare con modelli di grandi dimensioni e poi a volte ridimensionarli a modelli AI più semplici per adattarli a uno scopo, ha affermato Karunamurthy di Scale AI. "È molto chiaro che prima si pensa se un'intelligenza artificiale sia abbastanza intelligente o meno per eseguire bene un test, poi se sia abbastanza veloce da soddisfare le loro esigenze nell'applicazione e poi il più economica possibile."