Google e Microsoft collaborano con OpenAI per formare un gruppo di controllo sulla sicurezza dell'IA
Chiamata Frontier Model Forum, la partnership arriva dopo un incontro della Casa Bianca la scorsa settimana con le stesse aziende, oltre ad Amazon e Meta, per discutere dello sviluppo sicuro e trasparente della futura intelligenza artificiale.
Alcuni dei più grandi nomi della tecnologia si stanno unendo per contribuire a mantenere l’intelligenza artificiale al sicuro. I giganti della tecnologia Google e Microsoft stanno collaborando con OpenAI e Anthropic per garantire che la tecnologia AI progredisca in modo “sicuro e responsabile”.
Questa partnership arriva dopo un incontro della Casa Bianca la scorsa settimana con le stesse aziende, oltre ad Amazon e Meta, per discutere dello sviluppo sicuro e trasparente della futura intelligenza artificiale.
Il gruppo di controllo, chiamato Frontier Model Forum, ha osservato che sebbene alcuni governi di tutto il mondo stiano adottando misure per mantenere l’IA al sicuro, tali misure non sono sufficienti. Tocca invece alle aziende tecnologiche.
In un post sul blog del sito di Google, il forum ha elencato quattro obiettivi principali:
- Migliorare la ricerca sulla sicurezza dell’intelligenza artificiale per ridurre al minimo i rischi futuri
- Identificare le migliori pratiche per lo sviluppo responsabile e l’implementazione di modelli futuri
- Collaborare con politici, accademici e altri soggetti per condividere le conoscenze sui rischi per la sicurezza dell'IA
- Sostenere lo sviluppo degli usi dell’intelligenza artificiale per risolvere i maggiori problemi dell’umanità come il cambiamento climatico e il rilevamento del cancro
Un rappresentante di OpenAI ha aggiunto che, sebbene il forum lavorerà con i politici, questi non saranno coinvolti nelle attività di lobbying del governo.
L’adesione al forum è aperta a qualsiasi azienda che soddisfi tre criteri: sviluppo e implementazione di modelli di frontiera, dimostrazione di un forte impegno per la sicurezza dei modelli di frontiera e volontà di partecipare a iniziative congiunte con altri membri. Che cos'è un "modello di frontiera"? Il forum lo definisce come "qualsiasi modello di apprendimento automatico su larga scala che va oltre le capacità attuali e ha una vasta gamma di capacità".
Sebbene l’intelligenza artificiale abbia un potenziale in grado di cambiare il mondo, afferma il forum, “sono necessari guardrail adeguati per mitigare i rischi”. Anna Makanju, vicepresidente per gli affari globali di OpenAI, ha rilasciato una dichiarazione: "È fondamentale che le aziende di intelligenza artificiale, in particolare quelle che lavorano sui modelli più potenti, si allineino su un terreno comune. Questo è un lavoro urgente. E questo forum è ben posizionato agire rapidamente per far progredire lo stato della sicurezza dell’intelligenza artificiale”.
Il presidente di Microsoft Brad Smith ha fatto eco a questi sentimenti, affermando che in definitiva spetta alle aziende che creano tecnologia AI mantenerle al sicuro e sotto il controllo umano.