Il creatore di ChatGPT OpenAI ha uno strumento gratuito in grado di individuare il testo scritto dall'intelligenza artificiale
OpenAI offre uno strumento gratuito ma "imperfetto" per rilevare il testo generato dall'intelligenza artificiale e spera che susciti un dibattito sull'alfabetizzazione dell'intelligenza artificiale.
Il produttore di ChatGPT OpenAI ha rilasciato uno strumento di "classificazione" in grado di rilevare il testo scritto dall'intelligenza artificiale, ma osserva che non si dovrebbe fare affidamento su di esso.
L'ampiezza dei suggerimenti per i quali ChatGPT può creare risposte ha allarmato gli educatori, poiché alcuni studenti iniziano a consegnare saggi e compiti generati dall'intelligenza artificiale come lavoro proprio.
L'istruzione è un campo che potrebbe trarre vantaggio dal nuovo classificatore di OpenAI, automatizzando il rilevamento di saggi e compiti generati dall'intelligenza artificiale. Potrebbe consentire una risposta diversa rispetto, ad esempio, limitandone l'uso come hanno fatto di recente le scuole di New York. Anche i dipartimenti scolastici di tutta l'Australia hanno vietato ChatGPT.
Il classificatore potrebbe anche aiutare aziende come il sito di domande e risposte per sviluppatori, Stack Overflow, che ha bandito le risposte di ChatGPT dopo che i suoi moderatori sono stati inondati di soluzioni a volte corrette.
Sebbene il classificatore possa eliminare parte del lavoro di rilevamento, OpenAI afferma che è impossibile rilevare in modo affidabile tutto il testo scritto dall'intelligenza artificiale e ci sono una serie di limitazioni che influiscono sulla sua efficacia.
Il classificatore identifica correttamente il 26% del testo scritto dall'intelligenza artificiale come "probabilmente scritto dall'intelligenza artificiale", il suo vero tasso di positività. Identifica erroneamente il testo scritto dall'uomo come scritto dall'intelligenza artificiale il 9% delle volte: è un falso positivo. In altre parole, c'è una probabilità ragionevolmente alta che non riesca a rilevare il testo inviato da un essere umano che non rivela che è stato scritto dall'intelligenza artificiale e c'è una certa possibilità che etichetti erroneamente il testo in entrambe le direzioni. Ma afferma che il classificatore è "significativamente più affidabile sul testo proveniente da sistemi di intelligenza artificiale più recenti" rispetto al suo precedente rilevatore basato su GPT-2.
"Stiamo rendendo questo classificatore disponibile al pubblico per ottenere un feedback sull'utilità di strumenti imperfetti come questo", ha dichiarato OpenAI in un comunicato stampa, aggiungendo che spera che lo strumento "susciti discussioni sull'alfabetizzazione dell'intelligenza artificiale".
Lo strumento di classificazione web gratuito è disponibile qui. Per usarlo, gli utenti devono copiare e incollare una parte di testo nella casella di testo e quindi premere invio. Valuterà il testo come "molto improbabile", "improbabile", "non chiaro se è", "probabilmente" o "probabilmente" generato dall'intelligenza artificiale.
Il classificatore ha bisogno di almeno 1.000 caratteri, circa 150-250 parole, per analizzare un testo. OpenAI avverte che è facile modificare il testo generato dall'intelligenza artificiale per evitare i programmi di rilevamento. Inoltre, è più probabile che lo strumento etichetti erroneamente il testo scritto da bambini e il testo non in inglese, perché è stato addestrato principalmente su contenuti in inglese scritti da adulti.
Inoltre, OpenAI afferma di "non aver valutato a fondo l'efficacia del classificatore nel rilevare contenuti scritti in collaborazione con autori umani".
Dice che lo strumento "non dovrebbe essere utilizzato come strumento decisionale primario", ma come complemento ad altri metodi per determinare la fonte di un pezzo di testo.