Come la tecnologia dell'intelligenza artificiale sta finalmente rendendo i giochi online meno tossici
Riepilogo
- Le comunità di gioco online spesso non riescono a far sentire i giocatori sicuri e inclusi a causa delle lobby tossiche di chat vocali e di testo.
- La moderazione della chat tramite intelligenza artificiale segnala comportamenti potenzialmente tossici in modo che possano essere esaminati e gestiti da un team di moderatori umani.
- La moderazione della chat vocale tramite intelligenza artificiale è già in uso nei popolari giochi multiplayer come Call of Duty, Among Us e GTA Online
Trascorrere del tempo in una lobby di gioco o in una chat può sembrare terribile. Alcune comunità sono diventate tossiche, allontanando i giocatori dal gioco prima ancora che vi entrino. Alcuni editori pensano che l’intelligenza artificiale potrebbe essere la soluzione per rendere i loro giochi accessibili a tutti i giocatori.
Il gioco ha un problema di tossicità
Vengo dal pubblico dei giocatori della vecchia scuola, quindi la maggior parte dei miei anni formativi li ho trascorsi giocando a giochi per giocatore singolo o competendo sul divano su una console. Le chiacchiere erano all'ordine del giorno, ma conoscevi i tuoi limiti quando eri sul divano accanto ai tuoi amici, e nessuno le prendeva mai sul personale. Internet ha cambiato tutto questo.
Sebbene tu possa giocare a giochi multiplayer locali con Steam, di solito giocherai online in una lobby. Se giochi a sparatutto multiplayer online come Valorant o Call of Duty, ti renderai presto conto della portata del problema di tossicità con cui lottano molti sparatutto online. I dati del 2022 hanno mostrato che Call of Duty era forse il più tossico tra tutti i fanbase, facendo sembrare il gioco brutto agli occhi dei nuovi fan. Il gioco ha anche una famigerata storia di comportamenti dannosi, inclusa la famigerata tendenza dello "schiacciamento" di alcuni anni fa.
Activision, gli editori di Call of Duty, non ne fu soddisfatto e decise che era giunto il momento di cambiare le cose.
I giocatori hanno cercato a lungo giochi non tossici. Tuttavia, la maggior parte delle società di gioco non sa come affrontare il problema della tossicità tra i propri giocatori. Call of Duty ha recentemente implementato un sistema che utilizza l'intelligenza artificiale per individuare comportamenti tossici nelle lobby e gestire i giocatori che promuovono comportamenti negativi nella loro base di giocatori. I risultati sono stati sorprendentemente efficaci.
Come l'intelligenza artificiale affronta i giocatori tossici
Quindi sei in una lobby di gioco e un ragazzo ti si mette in faccia con chiacchiere spazzatura. Alla fine scende in un linguaggio disgustoso, poi insulta. Denunci il ragazzo, ma non sai nemmeno se verrà fatto qualcosa al riguardo.
Questa è la realtà di molti spazi di gioco online al giorno d'oggi. Secondo Activision, a partire dal gennaio 2024 oltre quattro milioni di account sono stati colpiti da misure restrittive per comportamenti tossici, ma il comportamento persiste.
Il vecchio approccio di Activision non funzionava, quindi hanno deciso di cambiare marcia.
L'azienda aveva precedentemente collaborato con Community Sift per la moderazione basata su testo, che sembrava funzionare bene. Tuttavia, nelle lobby basate su console, la maggior parte delle comunicazioni avviene tramite voce ed è necessaria la moderazione vocale. È qui che entra in gioco il moderatore della chat vocale basato sull'intelligenza artificiale dell'azienda.
Il moderatore, noto come ToxMod, proviene dalla società Modulate.ai e ha molto potere all'interno dell'ecosistema Call of Duty. ToxMod utilizza sfumature di voce, schemi linguistici, accenti e altri elementi per determinare se l'utente sta dicendo qualcosa di tossico agli altri membri della lobby. Il moderatore può emettere avvisi e contrassegnare gli account dei giocatori per l'applicazione e il ban da parte di esseri umani.
Quali giochi attualmente eseguono il moderatore della chat AI?
Titoli come Among Us e Grand Theft Auto Online hanno entrambi implementato il moderatore della chat AI. I giocatori di GTA Online hanno sperimentato per la prima volta il beta testing di ToxMod nel dicembre 2023, ma molti utenti erano preoccupati per la loro privacy. Rockstar, l'editore del gioco, ha detto ai giocatori che stavano solo testando il sistema e che avrebbero preso in considerazione l'implementazione dell'applicazione nel 2024. Ad oggi, tuttavia, non ci sono stati molti aggiornamenti sulla moderazione dell'IA.
Anche Among Us ha implementato il sistema nella sua versione VR nell'aprile 2024. Questi giochi popolari hanno reso ToxMod molto popolare nell'affrontare discorsi discutibili e nel mantenere le lobby di gioco appetibili per chiunque. È un passo avanti nell'aiutare il gioco online multiplayer a liberarsi del suo passato tossico e a diventare più accessibile a un numero più ampio di persone.
Cosa viene contrassegnato e cosa va bene
Secondo ToxMod, il moderatore vocale AI utilizza segnali emotivi per determinare se è stato detto qualcosa di offensivo. Tuttavia, utilizza anche le risposte della chat per individuare dichiarazioni offensive.
Il sistema è progettato affinché gli esseri umani abbiano l'ultima parola poiché ToxMod invia registri dettagliati della conversazione audio al moderatore umano, che può quindi emettere un divieto se ritiene che la conversazione violi il codice di condotta. Si tratta di uno strumento di segnalazione, progettato per aiutare a individuare il problema, piuttosto che di un sistema di moderazione completamente automatizzato.
Allora perché ToxMod è un grosso problema se ci sono già modi in cui gli utenti possono inviare segnalazioni su giocatori tossici? Il problema di Activision è che accedere alla schermata del rapporto porta i giocatori fuori dal gioco. Quando ciò accade, è meno probabile che vogliano continuare a giocare. La funzionalità automatica di ToxMod mantiene i giocatori immersi creando il rapporto per loro.
Molti di noi sono abituati a silenziare semplicemente i giocatori problematici e andare avanti, mentre ToxMod garantisce che venga effettuata una segnalazione in modo che l'istigatore possa essere affrontato.
In che modo ToxMod ha aiutato Call of Duty?
Anche se è facile ipotizzare che un moderatore vocale basato sull'intelligenza artificiale possa rendere giochi come Call of Duty meno tossici, avere i fatti concreti è molto meglio. In questo caso, Activision stima che in Nord America ci fosse fino al 50% in meno di chat vocale tossica per i titoli Call of Duty: Modern Warfare III e Call of Duty: Warzone . La stessa fonte suggerisce una riduzione dell’8% dei recidivi e una riduzione complessiva del 25% della tossicità sulla piattaforma.
Dai numeri è evidente che ToxMod ha avuto un impatto positivo sull'ecosistema della chat. Tuttavia, questo dovrebbe essere preso con le pinze. La moderazione vocale dell'intelligenza artificiale tende ad avere problemi con alcuni accenti regionali, quindi avere un essere umano che emette i divieti è vitale per evitare qualsiasi problema.
Anche così, alcuni giocatori sono scontenti di essere stati sanzionati per la chat vocale. Per quanto eccezionale sia la moderazione vocale dell’intelligenza artificiale, si possono ancora commettere errori. Pensiamo che sia un anno fantastico per provare il nuovo Call of Duty, soprattutto con la tossicità ridotta.
Costruire il futuro del gaming che desideriamo
L'intelligenza artificiale ha molti usi, dalla potente generazione di immagini sul tuo PC all'utilizzo come personal trainer di fitness. È naturale che qualcuno trovi un modo per moderare le chat vocali offensive nei giochi multiplayer per creare un'atmosfera più accogliente.
Mi piacerebbe vedere una comunità di gioco multiplayer in cui le persone siano di supporto e non abusino degli altri giocatori per pregiudizio. C'è un tempo e un luogo per parlare di spazzatura, ma c'è un limite in cui diventa cattivo e offensivo.
Se i moderatori della chat vocale basati sull'intelligenza artificiale sono il modo per portarci in un luogo in cui il gioco è di nuovo divertente, sono assolutamente favorevole a vederlo implementato.