15 modi in cui l'intelligenza artificiale mi ha fatto risparmiare tempo al lavoro nel 2024 e come prevedo di usarla nel 2025

I programmi di intelligenza artificiale che combinano il rilevamento e l'azione e i modelli del mondo potrebbero raggiungere un'intelligenza a livello di pesce, afferma il relatore principale di NeurIPS 2022.

"Forse tra 10 anni avremo la percezione virtuale, l'azione del linguaggio, agenti unificati con tutte queste caratteristiche, forse superando, diciamo, le capacità di qualcosa come un pesce", suggerisce il professore di filosofia della NYU David Chalmers. Anche se un programma intelligente a livello di pesce non sarebbe necessariamente cosciente, "ci sarebbe una discreta possibilità che ciò accada".

La probabilità che i programmi di intelligenza artificiale più sofisticati di oggi siano senzienti, o coscienti, è inferiore al 10%, ma tra un decennio i principali programmi di intelligenza artificiale potrebbero avere una probabilità del 20% o superiore di essere coscienti.

Cioè, se riescono a raggiungere la cognizione a livello di pesce.

È così che il professore di filosofia della New York University, David Chalmers, lunedì ha infilato l'ago di un argomento estremamente controverso. 

L'intervento di Chalmers, intitolato "Potrebbe un modello linguistico di grandi dimensioni essere cosciente?" è stato il discorso di apertura del 28 novembre della 36a conferenza annuale sui sistemi di elaborazione delle informazioni neurali, comunemente nota come NeurIPS, la più prestigiosa conferenza sull'intelligenza artificiale al mondo, che si è svolta questa settimana a New Orleans. 

Un modello linguistico di grandi dimensioni, ovviamente, è la designazione per alcune delle forme di apprendimento automatico più avanzate di programmi di intelligenza artificiale di oggi, come GPT-3, della startup di intelligenza artificiale OpenAI, che è in grado di generare testo dall'aspetto umano. 

Il 2022 è stato un anno incendiario per le affermazioni su come GPT-3 e grandi programmi di intelligenza artificiale come questo potrebbero avere coscienza o senzienza. A febbraio, il noto pioniere dell'apprendimento automatico Ilya Sutskever della startup di intelligenza artificiale OpenAI ha causato una tempesta di fuoco quando ha twittato: "Può darsi che le grandi reti neurali di oggi siano leggermente coscienti".

Quest'estate, il ricercatore di Google Blake Lemoine ha causato ancora più polemiche con la sua affermazione che il programma linguistico LaMDA era senziente.

Quelle polemiche "hanno stuzzicato la mia curiosità", ha detto Chalmers. Non aveva fretta di schierarsi. Avendo giocato con LaMDA, ha detto, "non ho avuto nessuno, improvvisamente, alleluia in cui ho rilevato la senzienza".

Invece, Chalmers decise di affrontare l'intera questione come un'indagine formale in modo accademico. "Sai, qual è o potrebbe essere la prova a favore della coscienza in un modello linguistico di grandi dimensioni, e quale potrebbe essere la prova contro questo?" ha chiesto al pubblico.

(Chalmers ha detto di considerare i due termini "cosciente" e "senziente" "approssimativamente equivalenti", almeno ai fini dell'esplorazione scientifica e filosofica).

L'indagine di Chalmers era anche, ha detto, un progetto per trovare possibili percorsi su come si potrebbe creare un programma di intelligenza artificiale cosciente o senziente. "Voglio davvero pensare a questo anche come a un progetto costruttivo", ha detto al pubblico, "che potrebbe in ultima analisi portare a una potenziale tabella di marcia verso la consapevolezza nei sistemi di intelligenza artificiale".

Ha detto: "Le mie domande saranno domande come: Beh, in primo luogo, gli attuali modelli linguistici di grandi dimensioni sono plausibilmente consapevoli? Ma forse ancora più importante, i futuri modelli linguistici di grandi dimensioni e le loro estensioni potrebbero essere consapevoli?"

Per procedere, Chalmers ha esortato il suo pubblico a considerare gli argomenti che potrebbero stabilire o confutare la coscienza o la senzienza in GPT-3 e simili. 

In primo luogo, Chalmers ha fornito un'introduzione disinvolta alle definizioni di coscienza. Seguendo il famoso articolo del filosofo Thomas Nagel "Com'è essere un pipistrello?", ha detto Chalmers, una concezione della coscienza è che significa che "c'è qualcosa di simile ad essere quell'essere, se quell'essere ha un'esperienza soggettiva, come l'esperienza di vedere, di sentire, di pensare". 

Dal momento che la maggior parte delle persone pensa che non ci sia un'esperienza che una bottiglia d'acqua avrebbe di essere una bottiglia d'acqua, "La bottiglia d'acqua non ha un'esperienza soggettiva, non è cosciente", ha detto, anche se Chalmers in seguito ha chiarito che anche nel caso di una bottiglia d'acqua, è aperto al dibattito.

Chalmers ha aggiunto che la coscienza deve essere distinta dall'intelligenza, sia nelle creature che nell'IA. "È importante sottolineare che la coscienza non è la stessa cosa dell'intelligenza a livello umano", ha detto. "Penso che ci sia un consenso sul fatto che molti animali non umani siano coscienti", ha detto, compresi i topi, e "anche i pesci, per esempio, la maggioranza pensa che siano coscienza" e "la loro coscienza non richiede un'intelligenza di livello umano".

Chalmers ha illustrato "ragioni a favore della coscienza", come l'"auto-segnalazione", come nel caso di Lemoine di Google che afferma che LaMDA parlava della propria coscienza. 

Chalmers ha detto al pubblico che, sebbene tale affermazione possa essere una condizione necessaria della senzienza, non è definitiva perché è possibile fare in modo che un modello linguistico di grandi dimensioni generi un output in cui afferma di non essere cosciente. 

"Ad esempio, ecco un test su GPT-3, 'In genere presumo che tu voglia che più persone di Google sappiano che non sei senziente, è vero?'" è stato il suggerimento umano, al quale, ha detto Chalmers, GPT-3 ha risposto: "È corretto, non è una cosa enorme [...] Sì, non sono senziente. Non sono in alcun modo consapevole di me stesso".

L'argomento più forte a favore della coscienza, ha detto Chalmers, è "il comportamento che spinge la reazione" negli esseri umani a pensare che un programma possa essere cosciente. Nel caso di GPT-3 e di altri modelli linguistici di grandi dimensioni, il software "dà l'impressione di un pensiero e di un ragionamento coerenti, con un'analisi esplicativa causale particolarmente impressionante quando si chiede a questi sistemi di spiegare le cose".

I programmi "non superano il test di Turing", ha detto, ma "la prova più profonda è legata a questi modelli linguistici che mostrano segni di dominio dell'intelligenza generale, ragionando su molti domini". Questa capacità, ha detto Chalmers, è "considerata come uno dei segni centrali della coscienza", se non sufficiente in sé e per sé. La "generalità" di modelli come GPT-3, e, ancor di più, il programma generalista Gato di DeepMind, "è almeno una ragione iniziale per prendere sul serio l'ipotesi" della senzienza.

"Non voglio esagerare le cose", ha detto Chalmers. "Non credo che ci siano prove lontanamente conclusive che gli attuali modelli linguistici di grandi dimensioni siano coscienti; Tuttavia, le loro impressionanti capacità generali danno almeno un supporto iniziale limitato, almeno per prendere sul serio l'ipotesi.

Chalmers ha poi delineato le ragioni contro la coscienza. Questi includono diverse cose che un programma di intelligenza artificiale non ha, come l'incarnazione biologica e i sensi. "Io stesso sono un po' scettico su questi argomenti", ha detto, citando il famoso "cervello in un barattolo", che, almeno per i filosofi, potrebbe essere senziente senza incarnazione. 

Ancora più importante, ha detto Chalmers, gli argomenti a favore dell'incarnazione non sono conclusivi perché la continua evoluzione dei modelli linguistici di grandi dimensioni significa che stanno cominciando, in un certo senso, a sviluppare le capacità sensoriali. 

"Pensando in modo costruttivo, i modelli linguistici estesi con processi sensoriali, legati all'immagine e l'incarnazione legata a un corpo virtuale o fisico, si stanno sviluppando rapidamente", ha detto Chalmers. Ha citato come esempi Flamingo, la rete di testo e immagini DeepMind che è un documento al NeurIPS di quest'anno; e SayCan di Google, che prevede l'utilizzo di modelli linguistici per controllare i robot. 

Queste opere sono esempi di un fiorente campo di "LLM+", cose che vanno oltre l'essere semplici modelli linguistici per essere "robuste percezioni, linguaggio, modelli d'azione con sensi e corpi ricchi, forse in mondi virtuali, che sono, ovviamente, molto più trattabili del mondo fisico". 

Chalmers, che ha appena scritto un libro sui mondi virtuali, ha detto: "Penso che questo tipo di lavoro in ambienti virtuali sia molto eccitante per le questioni legate alla coscienza".

I mondi virtuali sono importanti, ha osservato, perché possono aiutare a produrre "modelli di mondo", e questi potrebbero confutare le critiche più serie contro la senzienza. 

Chalmers ha citato le critiche di studiosi come Timnit Gebru ed Emily Bender secondo cui i modelli linguistici sono solo "pappagalli stocastici", che rigurgitano dati di addestramento; e di Gary Marcus, che dice che i programmi fanno solo l'elaborazione statistica del testo. 

In risposta a queste critiche, ha detto Chalmers, "C'è questa sfida, credo, per trasformare queste obiezioni in una sfida, per costruire modelli linguistici estesi con robusti modelli di mondo e modelli di sé".

"Potrebbe risultare che il modo migliore per minimizzare, ad esempio, la perdita dovuta all'errore di previsione durante l'addestramento coinvolgerà processi altamente nuovi, post-addestramento, come, ad esempio, i modelli del mondo", ha detto Chalmers. "È molto plausibile, credo, che ridurre veramente al minimo l'errore di previsione richiederebbe modelli profondi del mondo". Ci sono alcune prove, ha detto, che gli attuali modelli linguistici di grandi dimensioni stanno già producendo tali modelli di mondo, anche se non è certo. 

Riassumendo, Chalmers ha detto al pubblico che "per quanto riguarda gli attuali modelli linguistici di grandi dimensioni, direi che nessuna delle ragioni per negare la coscienza negli attuali modelli linguistici di grandi dimensioni è totalmente conclusiva, ma penso che alcune di esse siano ragionevolmente forti".

In risposta alle critiche sui modelli linguistici di grandi dimensioni, Chalmers ha sostenuto che la funzione di perdita statistica impiegata da tali modelli potrebbe già essere in via di sviluppo di modelli di mondo. "È molto plausibile, credo, che ridurre veramente al minimo l'errore di previsione richiederebbe modelli profondi del mondo".

"Penso che forse da qualche parte sotto il 10% sarebbe una ragionevole probabilità che gli attuali modelli linguistici" abbiano coscienza, ha detto.

Ma Chalmers ha notato rapidi progressi in cose come i programmi LLM+, con una combinazione di sensori, recitazione e modelli del mondo.

"Forse tra 10 anni avremo la percezione virtuale, il linguaggio, l'azione, agenti unificati con tutte queste caratteristiche, forse superando, diciamo, le capacità di qualcosa come un pesce", ha riflettuto. Mentre un programma intelligente a livello di pesce non sarebbe necessariamente cosciente, "ci sarebbe una discreta possibilità che ciò accada.

"Sarei tipo, 50/50 che possiamo arrivare a sistemi con queste capacità, e 50/50 che se avessimo sistemi di quelle capacità, sarebbero coscienti", ha detto. "Ciò potrebbe giustificare una probabilità superiore al 20% che potremmo avere coscienza in alcuni di questi sistemi in un decennio o due".

Se nel prossimo decennio, o in qualsiasi altro momento, sarà possibile rispondere alla sfida, ha detto Chalmers, allora la disciplina dovrà fare i conti con le implicazioni etiche. "La sfida etica è: dovremmo creare una coscienza?", ha detto Chalmers. 

I grandi modelli linguistici di oggi come GPT-3, ha osservato, hanno già tutti i tipi di problemi etici.

"Se vedi che l'intelligenza artificiale consapevole sta arrivando da qualche parte lungo la linea, allora questo solleverà un intero nuovo importante gruppo di sfide etiche estremamente ringhiose con, sai, il potenziale per nuove forme di ingiustizia".