OpenAI condivide gli aggiornamenti sulla sicurezza dopo le denunce degli informatori, chiede il legislatore
In un thread X, il gigante dell'intelligenza artificiale spiega "come diamo priorità alla sicurezza nel nostro lavoro". Ecco le novità.
La sicurezza è una delle maggiori preoccupazioni legate alla rapida crescita dei modelli di intelligenza artificiale generativa. Una denuncia di sette pagine presentata da informatori e ottenuta dal Washington Post in merito alle pratiche di sicurezza di OpenAI non ha fatto altro che aumentare queste preoccupazioni. Di conseguenza, OpenAI sta ora condividendo con il pubblico un aggiornamento sulle sue iniziative di sicurezza.
Martedì, OpenAI si è rivolta a X, ex Twitter, per condividere una carrellata di aggiornamenti su "come diamo priorità alla sicurezza nel nostro lavoro". Il thread includeva i punti salienti delle recenti iniziative e gli aggiornamenti dei progetti in corso.
Per garantire che l’intelligenza artificiale possa portare benefici a tutti, si inizia con la creazione di un’intelligenza artificiale che sia utile e sicura. Vogliamo condividere alcuni aggiornamenti su come diamo priorità alla sicurezza nel nostro lavoro.
OpenAI ha iniziato evidenziando il suo Preparedness Framework, rilasciato per la prima volta in versione beta a dicembre. Il Framework include le varie precauzioni adottate da OpenAI per garantire la sicurezza dei suoi modelli di intelligenza artificiale di frontiera, come fornire scorecard ai modelli su parametri diversi e non rilasciare un nuovo modello se supera una soglia di rischio "media".
Parallelamente, OpenAI ha condiviso che sta sviluppando attivamente "livelli" per aiutare OpenAI e le parti interessate a classificare e monitorare i progressi dell'IA, sui quali la società condividerà maggiori dettagli "presto".
OpenAI ha anche offerto aggiornamenti sul suo comitato per la sicurezza e la protezione, inizialmente lanciato dal consiglio di amministrazione di OpenAI a maggio per aggiungere un ulteriore livello di controlli ed equilibri alle sue operazioni. La revisione condotta dal comitato, che comprende esperti tecnici e politici, è ora in corso. Una volta concluso, OpenAI condividerà gli ulteriori passi che intende intraprendere.
Infine, OpenAI ha attirato l'attenzione sulla sua politica sugli informatori, che "tutela il diritto dei dipendenti di effettuare divulgazioni protette", secondo l'azienda. Per promuovere il dialogo sulla tecnologia, l'azienda ha anche modificato il processo di partenza dei propri dipendenti, eliminando i termini non denigratori.
OpenAI ha condiviso questi aggiornamenti solo un giorno dopo che i legislatori statunitensi hanno chiesto a OpenAI di condividere i dati relativi alle sue pratiche di sicurezza in seguito al rapporto dell'informatore. Alcuni dei punti principali del rapporto includono che OpenAI ha impedito al personale di allertare le autorità competenti in merito ai rischi tecnologici e ha costretto i dipendenti a rinunciare ai loro diritti federali al risarcimento degli informatori, entrambi affrontati dai post X.