La supervisione umana è fondamentale per mantenere l’intelligenza artificiale onesta
Gli strumenti basati sull’intelligenza artificiale non dovrebbero essere lasciati soli a decidere quali contenuti le persone dovrebbero leggere, afferma il responsabile della piattaforma di aggregazione di notizie SmartNews, che spiega perché gli esseri umani devono essere sempre tenuti aggiornati.
Ancora priva delle caratteristiche chiave necessarie per decifrare le informazioni, l’intelligenza artificiale (AI) non dovrebbe essere lasciata sola a decidere quali contenuti le persone dovrebbero leggere.
La supervisione umana e i controlli sono fondamentali per garantire che il contenuto giusto venga inviato agli utenti, ha affermato Arjun Narayan, responsabile della fiducia, della sicurezza e dell’esperienza del cliente presso SmartNews.
La piattaforma di aggregazione di notizie cura articoli provenienti da 3.000 fonti di notizie in tutto il mondo, dove i suoi utenti trascorrono in media 23 minuti al giorno sulla sua app. Disponibile su Android e iOS, l'app ha totalizzato oltre 50 milioni di download. Con sede a Tokyo, SmartNews ha team in Giappone e negli Stati Uniti, composti da linguisti, analisti e politici.
La missione dichiarata dell'azienda, in mezzo alla grande quantità di informazioni ora disponibili online, è quella di diffondere notizie affidabili e rilevanti per i propri utenti. "Le notizie dovrebbero essere affidabili. I nostri algoritmi valutano milioni di articoli, segnali e interazioni umane per fornire lo 0,01% delle storie che contano di più, in questo momento", afferma SmartNews sul suo sito web.
La piattaforma utilizza tecnologie di apprendimento automatico e di elaborazione del linguaggio naturale per identificare e dare priorità alle notizie desiderate dagli utenti. Dispone di parametri per valutare l'affidabilità e l'accuratezza delle fonti di notizie.
Ciò è fondamentale poiché le informazioni vengono sempre più consumate attraverso i social media, dove la veridicità può essere discutibile, ha affermato Narayan.
Il suo motore AI proprietario alimenta un feed di notizie personalizzato in base alle preferenze personali degli utenti, come gli argomenti che seguono. Utilizza inoltre vari sistemi di apprendimento automatico per analizzare e valutare gli articoli che sono stati indicizzati per determinare se il contenuto è conforme alle politiche aziendali. Le fonti non conformi vengono filtrate, ha affermato.
Poiché l'assistenza clienti fa capo al suo team, ha aggiunto che il feedback degli utenti può essere rapidamente esaminato e incorporato ove pertinente.
Come molti altri, l’azienda sta attualmente esaminando l’intelligenza artificiale generativa e valutando il modo migliore per utilizzare la tecnologia emergente per migliorare ulteriormente la scoperta e la ricerca di contenuti. Narayan ha rifiutato di fornire dettagli su quali potrebbero essere queste nuove funzionalità.
Ha sottolineato, tuttavia, l’importanza di mantenere il controllo umano nell’uso dell’intelligenza artificiale, che ancora manca in alcune aree.
I modelli linguistici di grandi dimensioni, ad esempio, non sono efficienti nell’elaborazione di notizie dell’ultima ora o di attualità, ma funzionano con maggiore precisione e affidabilità se utilizzati per analizzare contenuti sempreverdi, come DYI o articoli di istruzioni.
Questi modelli di intelligenza artificiale si comportano bene anche nel riassumere grandi porzioni di contenuti e nel supportare alcune funzioni, come l’aumento della distribuzione dei contenuti, ha osservato. Il suo team sta valutando l'efficacia dell'utilizzo di modelli linguistici di grandi dimensioni per determinare se determinati contenuti soddisfano le politiche editoriali dell'azienda. "È ancora nascente ed è agli inizi", ha detto. "Ciò che abbiamo imparato è che [il livello di] accuratezza o precisione dei modelli di intelligenza artificiale è buono quanto i dati che inserisci e addestri."
I modelli odierni in gran parte non sono “consapevoli” e mancano di comprensione contestuale, ha detto Narayan. Questi problemi possono essere risolti nel tempo man mano che nel modello vengono inseriti più set di dati e tipi di dati, ha affermato.
Dovrebbe essere investito lo stesso impegno per garantire che i dati di addestramento siano "trattati" e privi di errori o normalizzati per incoerenze. Ciò è particolarmente importante per l’intelligenza artificiale generativa, dove i set di dati aperti vengono comunemente utilizzati per addestrare il modello di intelligenza artificiale, ha osservato. Ha descritto questa come la parte "oscura" del settore, che porterà a problemi legati alle violazioni del copyright e della proprietà intellettuale.
"Al momento, non c'è molta divulgazione pubblica sul tipo di dati che verranno inseriti nel modello di intelligenza artificiale", ha affermato. "Questo deve cambiare. Dovrebbe esserci trasparenza sul modo in cui vengono formati e sulla logica decisionale, perché questi modelli di intelligenza artificiale modelleranno la nostra visione del mondo."
Ha espresso preoccupazione per le "allucinazioni", in cui l'intelligenza artificiale è in grado di generare informazioni false in modo tale che le persone realistiche siano convinte che siano vere.
Tali problemi sottolineano ulteriormente la necessità di una qualche forma di governance che coinvolga gli esseri umani nella supervisione dei contenuti inviati agli utenti, ha affermato.
Le organizzazioni devono inoltre verificare ciò che esce dai loro modelli di intelligenza artificiale e implementare i necessari guardrail. Ad esempio, dovrebbero essere predisposte reti di sicurezza quando al sistema di intelligenza artificiale viene chiesto di fornire istruzioni su come costruire una bomba o scrivere un articolo che plagi.
"L'intelligenza artificiale, in questo momento, non è in una fase in cui è possibile lasciarla funzionare da sola", ha affermato Narayan, aggiungendo che dovrebbero sempre esserci investimenti nelle capacità umane e nella supervisione. "Hai bisogno di guardrail. Non vuoi contenuti che non siano corretti o verificati."
E in mezzo a tutto questo clamore, è importante essere consapevoli dei limiti dell’intelligenza artificiale generativa, i cui modelli non sono ancora addestrati a gestire le ultime notizie e non funzionano bene con dati in tempo reale.
Dove l’intelligenza artificiale ha funzionato meglio è nel potenziare il suo motore di raccomandazione, che SmartNews utilizza per dare priorità agli articoli ritenuti di maggiore interesse sulla base di determinati segnali di fondo, come i modelli di lettura dell’utente. Questi sistemi di intelligenza artificiale sono stati utilizzati negli ultimi dieci anni, dove regole e algoritmi sono stati continuamente perfezionati, ha spiegato.
Sebbene non fosse disposto a divulgare dettagli su come incorporare l’intelligenza artificiale generativa, ha sottolineato il suo potenziale nel facilitare l’interazione umana con le macchine.
Chiunque, anche chi non ha un background tecnico, potrà ottenere le risposte di cui ha bisogno purché sappia porre le domande giuste. Possono quindi riutilizzare le risposte per utilizzarle nelle loro attività quotidiane, ha affermato.
Alcune aree dell’IA generativa, tuttavia, rimangono grigie.
Secondo Narayan, sulla sua piattaforma di notizie sono in corso discussioni con gli editori su come dovrebbero essere gestiti gli articoli scritti completamente dall’intelligenza artificiale, così come quelli scritti da esseri umani ma potenziati dall’intelligenza artificiale. E se dovessero essere stabilite delle regole per tali articoli, come verrebbero applicate?
Inoltre, ci sono domande sul livello di divulgazione che dovrebbe applicarsi alle diverse varianti, in modo che i lettori sappiano quando e come viene utilizzata l’intelligenza artificiale.
Indipendentemente da come questi problemi verranno eventualmente affrontati, ciò che rimane un mandato è la supervisione editoriale. Sottolineando ancora una volta l'importanza della trasparenza, Narayan ha affermato che ogni contenuto dovrà comunque soddisfare le politiche editoriali di SmartNews in materia di accuratezza e affidabilità.
Ha espresso allarme per i licenziamenti tecnologici che hanno visto la rimozione dell’etica dell’IA e dei team di fiducia. "Te lo dirò ora, è molto importante continuare ad avere una supervisione [umana] e investimenti nei guardrail di sicurezza. Se manca la diligenza, creeremo un mostro", ha detto. "L'automazione è eccezionale [e consente] di scalare i sistemi, ma nulla si avvicina all'ingegno umano."