Il produttore di ChatGPT OpenAI ha uno strumento gratuito in grado di individuare il testo scritto dall'intelligenza artificiale
OpenAI offre uno strumento gratuito ma "imperfetto" per rilevare il testo generato dall'intelligenza artificiale e spera che scateni un dibattito sull'alfabetizzazione dell'intelligenza artificiale.
OpenAI, produttore di ChatGPT, ha rilasciato uno strumento di "classificazione" in grado di rilevare il testo scritto dall'intelligenza artificiale, ma sottolinea che non si dovrebbe fare affidamento su di esso.
L'ampiezza delle richieste a cui ChatGPT può creare risposte ha allarmato gli educatori poiché alcuni studenti iniziano a consegnare saggi e compiti generati dall'intelligenza artificiale come lavoro proprio.
L’istruzione è un campo che potrebbe trarre vantaggio dal nuovo classificatore di OpenAI automatizzando il rilevamento di saggi e compiti generati dall’intelligenza artificiale. Potrebbe consentire una risposta diversa rispetto, ad esempio, a limitarne l’uso come hanno fatto recentemente le scuole di New York. Anche i dipartimenti scolastici di tutta l’Australia hanno vietato ChatGPT.
Il classificatore potrebbe anche aiutare aziende come il sito di domande e risposte degli sviluppatori, Stack Overflow, che ha vietato le risposte di ChatGPT dopo che i suoi moderatori sono stati inondati di soluzioni talvolta corrette.
Sebbene il classificatore possa eliminare parte del lavoro di rilevamento, OpenAI afferma che è impossibile rilevare in modo affidabile tutto il testo scritto dall'intelligenza artificiale e ci sono una serie di limitazioni che ne influiscono sull'efficacia.
Il classificatore identifica correttamente il 26% del testo scritto dall'intelligenza artificiale come "probabilmente scritto dall'intelligenza artificiale": il suo vero tasso positivo. Identifica erroneamente il testo scritto dall'uomo come scritto dall'intelligenza artificiale il 9% delle volte: è un falso positivo. In altre parole, c'è una probabilità ragionevolmente alta che non riesca a rilevare il testo inviato da un essere umano che non rivela che è stato scritto dall'intelligenza artificiale e qualche possibilità che etichetti erroneamente il testo in entrambi i modi. Ma afferma che il classificatore è "significativamente più affidabile sul testo dei sistemi di intelligenza artificiale più recenti" rispetto al suo precedente rilevatore basato su GPT-2.
"Stiamo rendendo questo classificatore disponibile al pubblico per ottenere feedback sull'utilità di strumenti imperfetti come questo", ha affermato OpenAI in un comunicato stampa, aggiungendo che spera che lo strumento "scatena discussioni sull'alfabetizzazione dell'intelligenza artificiale".
Lo strumento di classificazione web gratuito è disponibile qui. Per utilizzarlo, gli utenti devono copiare e incollare una porzione di testo nella casella di testo e quindi premere Invia. Valuterà il testo come "molto improbabile", "improbabile", "non chiaro se sia", "possibile" o "probabile" generato dall'intelligenza artificiale.
Il classificatore ha bisogno di almeno 1.000 caratteri – circa 150-250 parole – per analizzare un testo. OpenAI avverte che è facile modificare il testo generato dall'intelligenza artificiale per evitare programmi di rilevamento. Inoltre, è più probabile che lo strumento etichetti erroneamente il testo scritto da bambini e il testo non inglese, perché è stato addestrato principalmente su contenuti inglesi scritti da adulti.
Inoltre, OpenAI afferma di "non aver valutato a fondo l'efficacia del classificatore nel rilevare contenuti scritti in collaborazione con autori umani".
Si afferma che lo strumento "non dovrebbe essere utilizzato come strumento decisionale primario", ma come complemento ad altri metodi per determinare la fonte di un pezzo di testo.