I dipendenti Samsung fanno trapelare accidentalmente dati aziendali sensibili a ChatGPT
Solo tre settimane prima, Samsung aveva revocato il divieto ai dipendenti di utilizzare ChatGPT di OpenAI per problemi di privacy dei dati.
Tuttavia, da quando il divieto è stato revocato, ci sono stati tre casi separati in cui i dipendenti Samsung hanno accidentalmente fatto trapelare informazioni sensibili relative alla divisione semiconduttori di Samsung a ChatGPT nell'arco di 20 giorni, afferma un rapporto di The Economist Korea (come notato da Mashable).
Il divieto era originariamente destinato a proteggere i dati aziendali, ma è stato revocato l'11 marzo 2023, in modo che gli ingegneri della divisione semiconduttori potessero utilizzare ChatGPT per risolvere i problemi con il codice sorgente, migliorare la produttività ed essere a conoscenza degli ultimi cambiamenti tecnologici.
Pur consentendo l'uso di ChatGPT, il colosso sudcoreano ha anche emesso un avviso alla divisione semiconduttori di "fare attenzione alla sicurezza delle informazioni interne e di non inserire informazioni private" nel popolare chatbot di intelligenza artificiale (AI).
In primo luogo, un dipendente di Semiconductor and Device Solutions ha riscontrato un problema durante l'esecuzione di un software di download di database di misurazione (DB) di apparecchiature a semiconduttore.
Poiché sembrava un problema con il codice sorgente del software, il dipendente ha copiato e incollato il codice sorgente dell'azienda riservato e difettoso nello strumento di intelligenza artificiale. Ha quindi chiesto al chatbot di verificare la presenza di errori e trovare una soluzione, rendendo di fatto il codice sorgente parte dei dati di addestramento interni di ChatGPT.
In secondo luogo, un dipendente, di fronte a difficoltà nel comprendere la resa del dispositivo e altre informazioni, ha condiviso il codice con il chatbot AI e ha richiesto "l'ottimizzazione del codice" a ChatGPT.
Mentre nel terzo caso, un dipendente ha condiviso una registrazione di una riunione aziendale riservata e ha chiesto a ChatGPT di convertirla in note per una presentazione. Le informazioni condivise con ChatGPT a causa di questi incidenti ne fanno ora parte per sempre e non possono essere eliminate.
Di conseguenza, Samsung ha adottato misure immediate e ora ha limitato la lunghezza dei prompt ChatGPT di ciascun dipendente a un kilobyte o 1024 caratteri di testo. Si dice anche che la società stia indagando sui tre dipendenti che facevano parte della fuga di notizie, oltre a prendere in considerazione la possibilità di ripristinare il divieto.
Al fine di prevenire tali imbarazzanti incidenti in futuro, Samsung sta ora sviluppando il proprio chatbot AI, che è destinato ad essere utilizzato rigorosamente dai suoi dipendenti per scopi interni.
"Se un incidente simile si verifica anche dopo l'adozione di misure di emergenza per la protezione delle informazioni, l'accesso a ChatGPT potrebbe essere bloccato sulla rete aziendale", si legge in una nota interna inviata da Samsung che consiglia ai suoi dipendenti di prestare attenzione durante l'utilizzo dello strumento di intelligenza artificiale.
"Non appena il contenuto viene inserito in ChatGPT, i dati vengono trasmessi e archiviati su un server esterno, rendendo impossibile per l'azienda recuperarli. ”
La guida per l'utente di ChatGPT avverte esplicitamente gli utenti di non condividere informazioni sensibili nelle loro conversazioni, poiché "non è in grado di eliminare richieste specifiche dalla cronologia. ”
È importante notare che tutte le domande e i testi condivisi con ChatGPT vengono conservati al fine di addestrare e migliorare i suoi modelli di intelligenza artificiale, a meno che gli utenti non scelgano esplicitamente di rinunciare. In altre parole, è difficile o impossibile cancellare completamente i dati dal sistema.
"Nell'ambito del nostro impegno per un'intelligenza artificiale sicura e responsabile, esaminiamo le conversazioni per migliorare i nostri sistemi e per garantire che i contenuti siano conformi alle nostre politiche e ai requisiti di sicurezza... Le tue conversazioni possono essere esaminate dai nostri formatori di intelligenza artificiale per migliorare i nostri sistemi", spiega chiaramente OpenAI sul suo sito web.
In particolare, OpenAI afferma: "Rimuoviamo qualsiasi informazione di identificazione personale dai dati che intendiamo utilizzare per migliorare le prestazioni del modello. Inoltre, utilizziamo solo un piccolo campione di dati per cliente per i nostri sforzi per migliorare le prestazioni del modello".
È interessante notare che ChatGPT è stato oggetto di molti controlli negli ultimi tempi per le sue politiche di raccolta dei dati in Europa, con l'Italia che ha temporaneamente vietato il chatbot AI nel paese per problemi di privacy. Anche la Germania potrebbe seguire il recente divieto di ChatGPT in Italia e potrebbe intraprendere un'azione simile bloccando il chatbot AI nel proprio paese.