Google espande il programma bug bounty per includere ricompense per scenari di attacco AI
Il colosso della tecnologia ha emesso oltre 12 milioni di dollari in ricompense ai ricercatori nel campo della sicurezza come parte del suo programma bug bounty nel 2022.
Nella sicurezza informatica, le minacce cambiano rapidamente. Aggiungi al mix la tecnologia dell'intelligenza artificiale generativa in rapida evoluzione e i problemi di sicurezza evolvono di minuto in minuto. Google è uno dei maggiori attori nel campo della tecnologia dell’intelligenza artificiale e riconosce la necessità di adattarsi a questa minaccia.
Google sta espandendo il suo attuale Vulnerability Rewards Program (VRP) per includere vulnerabilità specifiche dell’intelligenza artificiale generativa e considerando le sfide uniche che l’intelligenza artificiale generativa pone, come pregiudizi, manipolazioni di modelli, interpretazioni errate dei dati e altri attacchi avversari.
Il VRP è un programma di ricompensa dei bug che premia i ricercatori di sicurezza esterni per aver testato e segnalato le vulnerabilità del software nei prodotti e servizi di Google. Ora, questo includerà prodotti di intelligenza artificiale generativa. Alcuni dei prodotti di intelligenza artificiale generativa più popolari di Google includono Bard, Lens e altre integrazioni di intelligenza artificiale in Ricerca, Gmail, Documenti e altro ancora.
Man mano che l’intelligenza artificiale generativa diventa sempre più integrata nei diversi strumenti e programmi di Google, i rischi potenziali aumentano e Google dispone già di team interni di Trust and Safety che lavorano per prevedere questi rischi. Con l’espansione del programma bug bounty per includere l’intelligenza artificiale generativa, Google sta cercando di incoraggiare la ricerca sulla sicurezza dell’intelligenza artificiale per garantire che un’intelligenza artificiale responsabile diventi la norma.
Google ha anche offerto maggiori informazioni sui suoi criteri di ricompensa per la segnalazione di bug nei prodotti AI in modo che gli utenti possano facilmente determinare cosa rientra nell'ambito e cosa no.
I ricercatori di sicurezza esterni hanno il compito di trovare queste vulnerabilità in cambio di un guadagno finanziario, che a sua volta dà a Google, la società dietro il programma bug bounty, l’opportunità di correggere queste minacce prima che i malintenzionati le sfruttino. Ciò garantisce un prodotto più sicuro per gli utenti.
Oltre a includere l’intelligenza artificiale generativa nel suo VRP, Google ha introdotto il Secure AI Framework per supportare la creazione di applicazioni IA responsabili e sicure. Ha inoltre annunciato che sta collaborando con la Open Source Security Foundation per garantire l'integrità delle catene di approvvigionamento dell'intelligenza artificiale.
Gli utenti che desiderano aderire al programma bug bounty di Google possono inviare un bug o una vulnerabilità di sicurezza direttamente all'azienda. Nel 2022, Google ha emesso oltre 12 milioni di dollari in premi ai ricercatori di sicurezza come parte del suo programma bug bounty.