La ricerca basata sull'intelligenza artificiale non è la soluzione miracolosa che Google pensa sia: ecco perché
Collegamenti rapidi
- La visione di Google per il futuro della ricerca è basata sull'intelligenza artificiale
- La ricerca AI è la strategia di Google per combattere lo spam su Internet
- Il problema con la ricerca basata sull’intelligenza artificiale è che allucina e mina la fiducia
- Perdere sfumature con le panoramiche dell'intelligenza artificiale
- Le panoramiche sull’intelligenza artificiale possono uccidere l’Internet aperta
- Alla fine, le persone vogliono esperienze e contenuti umani
Di recente, Google ha annunciato che incorporerà l'intelligenza artificiale nella ricerca, rendendo più semplice trovare le informazioni di cui si ha bisogno senza dover prima sfogliare una pila di risultati di ricerca spazzatura. Tuttavia, ci sono un paio di ragioni per cui ciò non funzionerà.
La visione di Google per il futuro della ricerca è basata sull'intelligenza artificiale
Al Google I/O 2024, l'azienda ha presentato "Search in its Gemini era", un modo per dire che sta integrando l'intelligenza artificiale nella ricerca. Questa mossa non è stata sorprendente, poiché Google sta giocando con l’idea della ricerca AI attraverso la Search Generative Experience ormai da qualche tempo.
Alla conferenza, Google ha mostrato alcune nuove funzionalità sperimentali di intelligenza artificiale come la pianificazione nella ricerca, le pagine organizzate dall'intelligenza artificiale e la ricerca video. Tuttavia, la caratteristica che ha rubato la scena sono state le panoramiche AI.
L'idea alla base di AI Overviews è che invece di scansionare più pagine web per mettere insieme le informazioni di cui hai bisogno, Google cercherà su Google per te. Trarrà le informazioni più importanti dai migliori risultati di Google e ti fornirà un riepilogo accurato. Puoi anche modificare la presentazione di queste risposte per renderle più chiare o suddividerle passo dopo passo.
La ricerca AI è la strategia di Google per combattere lo spam su Internet
Uno dei motivi principali per cui Google si sta tuffando nella ricerca AI è perché la vede come una soluzione a uno dei suoi problemi di vecchia data: lo spam su Internet.
Per gran parte della sua esistenza, Google è stata in una corsa perpetua con gli spammer di Internet che cercano costantemente di ingannare il sistema per deviare una parte del traffico Internet. Ogni volta che Google migliora i suoi algoritmi, questi spammer trovano nuovi modi per sfruttarli.
Tuttavia, alla fine del 2022, qualcosa è cambiato e ha spostato gli equilibri di potere. Open AI ha presentato il suo modello di intelligenza artificiale generativa ChatGPT e, così facendo, ha consegnato involontariamente i codici nucleari a questi spammer di Internet, consentendo loro di sfornare articoli in modo rapido ed economico. Questi articoli di spam potrebbero non avere un buon posizionamento, ma confondono le acque, rendendo Google un'esperienza qualitativamente peggiore per tutti. Ciò potrebbe anche spiegare perché il sentimento sempre presente che “Google sta morendo” si è intensificato negli ultimi mesi.
Google spera che AI Search sia la soluzione a questo problema, ma ci sono alcuni problemi con questo piano.
Il problema con la ricerca basata sull’intelligenza artificiale è che allucina e mina la fiducia
Quando Google ha annunciato per la prima volta che avrebbe lanciato panoramiche sull’intelligenza artificiale, il mio primo pensiero è stato “Cosa faranno per il problema delle allucinazioni?”
Si scopre che la risposta è stata: non molto. Poco dopo l'annuncio di AI Overviews, le persone hanno notato che uno dei suggerimenti nel video dimostrativo in risposta a una domanda su come riparare una macchina da presa rotta aveva più probabilità di rovinare tutte le tue foto che di aiutare a risolvere il problema.
Ma non è finita qui. Poco dopo l’avvio delle panoramiche sull’intelligenza artificiale, le persone hanno notato che alcune delle sue risposte erano ridicole o addirittura dannose. Ad esempio, suggerisce di usare la benzina per fare gli spaghetti e di bere almeno 2 litri di urina al giorno.
Ma allora? Tutti sanno che non dovresti credere a tutto ciò che vedi su Internet, e anche altri chatbot inventano cose, quindi perché è un grosso problema?
Il punto è questo: le allucinazioni dell’intelligenza artificiale nella Ricerca sollevano un problema di fiducia. Una cosa è che un nuovo chatbot sperimentale con intelligenza artificiale menta occasionalmente e fabbrica informazioni. È tutto un altro gioco quando Google lo fa perché le persone si fidano di Google.
Google afferma di aver affrontato gli strani risultati delle panoramiche AI e di aver messo in atto ulteriori misure di salvaguardia, ma sono ancora scettico. Alcuni esperti ritengono addirittura che le allucinazioni non possano essere risolte e siano una parte fondamentale degli LLM. Se questo è vero, potremmo entrare in un’era di Internet in cui non puoi davvero fidarti di nulla online, nemmeno del tuo motore di ricerca.
Perdere sfumature con le panoramiche dell'intelligenza artificiale
Le panoramiche AI di Google non generano risposte basate solo sui dati di addestramento. Consulta anche le migliori pagine web su Google. Questo dovrebbe aiutarlo a evitare le allucinazioni, ma solleva anche un nuovo problema di contesto e sfumature.
Abbiamo già visto questo spettacolo nel virale "Come evitare che il formaggio scivoli via dalla pizza?" domanda dove l'intelligenza artificiale ha suggerito di aggiungere la colla alla pizza. Ha tratto questa risposta da un post di Reddit vecchio di 11 anni, che chiunque avrebbe facilmente liquidato come uno scherzo o un commento di troll se visto nel contesto originale. Tuttavia, le panoramiche AI di Google eliminano questa sfumatura e la presentano come un fatto concreto nello stesso modo autorevole in cui suggeriscono altre opzioni.
Un altro esempio è la raccomandazione dell'IA di mangiare almeno una piccola roccia al giorno. Ancora una volta, AI Overviews di Google ha strappato queste informazioni dalla fonte, in questo caso un articolo satirico di Onion, privandole del contesto e presentandole come fatti concreti.
Questi sono errori evidenti e facili da liquidare come innocui. Ma cosa succederà la prossima volta che AI Overviews interpreterà erroneamente qualcosa di importante che non è così facile da individuare?
Le panoramiche sull'intelligenza artificiale possono uccidere l'Internet aperta
Le panoramiche AI minacciano l’intera struttura aziendale di Internet. I siti web fanno affidamento sulle entrate pubblicitarie per realizzare un profitto e queste entrate pubblicitarie dipendono dal traffico. Pertanto, i siti Web sono incentivati a creare contenuti di qualità che incoraggino le persone a visitare il sito.
Le panoramiche AI gettano una chiave in questa struttura quando estraggono informazioni direttamente dai siti Web. Ora non è più necessario visitare effettivamente un sito Web, riducendo così il traffico e le entrate pubblicitarie. La progressione naturale potrebbe essere che i siti web siano costretti a bloccare i propri contenuti dietro paywall per rimanere in attività.
Google afferma che i collegamenti nelle panoramiche AI ottengono più clic rispetto agli elenchi tradizionali, ma non ha fornito dati a sostegno di ciò. Sembra anche improbabile considerando che questi collegamenti sono sepolti in fondo ai risultati della panoramica AI. Anche se è vero per le pagine con un ranking inferiore, è difficile da credere per i risultati migliori.
Se i contenuti vengono bloccati dietro i paywall per sopravvivere, cosa succede a Internet? Alcuni sostengono che questo potrebbe portare alla teoria morta di Internet, secondo cui tutto ciò che resta del web aperto è un mucchio di LLM che riciclano all'infinito i rispettivi contenuti finché Internet non diventa solo un miscuglio irriconoscibile di previsioni di parole.
Alla fine, le persone vogliono esperienze e contenuti umani
Google ha buone intenzioni con AI Overviews. Il problema, tuttavia, è che fondamentalmente fraintendono ciò che le persone vogliono dalla Ricerca: autenticità.
Le persone sono stanche di contenuti generici. Vogliono esperienze umane reali e non solo consigli rigurgitati. Ecco perché sempre più persone cercano su Reddit nella speranza di trovare opinioni di persone reali che abbiano una visione reale dei loro problemi.
Invece di una maggiore intelligenza artificiale, il futuro della ricerca potrebbe essere servito meglio da un algoritmo che premia i contenuti autentici e le esperienze reali.