Il NIST lancia un programma per valutare la tecnologia dell'intelligenza artificiale generativa e identificare i contenuti generati dall'intelligenza artificiale
Il programma cercherà di capire se i contenuti sono generati dall’intelligenza artificiale o creati dagli esseri umani e promuoverà la tecnologia dell’intelligenza artificiale che rappresenta un bene netto per la società.
Il National Institute of Standards and Technology (NIST) del Dipartimento del Commercio degli Stati Uniti ha lanciato un nuovo programma che mira ad analizzare l’intelligenza artificiale generativa e determinare come gli Stati Uniti possono utilizzare in sicurezza la tecnologia senza essere ingannati dai contenuti generati dall’intelligenza artificiale.
La divisione del Dipartimento del Commercio per l'analisi e la valutazione delle opportunità e dei rischi tecnologici chiama il suo nuovo programma NIST GenAI. L’agenzia prevede di creare parametri di riferimento GenAI, identificare modi per determinare se i contenuti sono generati dall’uomo o dall’intelligenza artificiale e, in definitiva, promuovere lo sviluppo di tecnologie di intelligenza artificiale che saranno positive per la società nel suo insieme. Il NIST non ha detto quali tecnologie di intelligenza artificiale valuterà, ma ha detto che intende affrontare i modelli di intelligenza artificiale sviluppati “in tutto il mondo”.
"Lo studio pilota mira a misurare e comprendere il comportamento del sistema per discriminare tra contenuti sintetici e generati dall'uomo nelle modalità text-to-text (T2T) e text-to-image (T2I)", ha affermato l'agenzia in una nota. "Questo progetto pilota affronta la questione della ricerca su come il contenuto umano differisce dal contenuto sintetico e su come i risultati della valutazione possono guidare gli utenti nella differenziazione tra i due."
L’annuncio del NIST arriva sei mesi dopo che il presidente degli Stati Uniti Joe Biden ha emesso un ordine esecutivo che impone a tutti gli enti governativi statunitensi di sviluppare strategie di IA sicure e protette. Il NIST ha affermato che in quel periodo ha sviluppato quattro pubblicazioni sull’intelligenza artificiale, anche per mitigare i rischi dell’intelligenza artificiale e creare standard globali sull’intelligenza artificiale, che possono essere utilizzati da governi e aziende a livello globale.
Nel frattempo NIST GenAI è particolarmente concentrato sull’avvento dell’intelligenza artificiale sintetica, ovvero di immagini e contenuti creati da modelli di intelligenza artificiale anziché da esseri umani. Il NIST consente a team di ricercatori di candidarsi per partecipare alle valutazioni GenAI del NIST come "generatore" o "discriminatore". Il primo gruppo avrà il compito di testare la capacità dei loro sistemi di intelligenza artificiale di “generare contenuti sintetici indistinguibili da quelli prodotti dall’uomo”. I gruppi discriminatori saranno "testati sulla capacità del loro sistema di rilevare contenuti sintetici creati da modelli linguistici di grandi dimensioni (LLM) e modelli di intelligenza artificiale generativa".
Gli sforzi del NIST per individuare l’intelligenza artificiale sintetica si concentrano anche su come tali contenuti potrebbero influenzare i brevetti, l’invenzione umana e le industrie a livello globale. L’agenzia è preoccupata se i contenuti generati dall’intelligenza artificiale possano essere, o addirittura debbano essere, brevettati e protetti dalla legge statunitense sulla proprietà intellettuale.
"Poiché l'intelligenza artificiale assume un ruolo sempre più importante nell'innovazione, dobbiamo incoraggiarne l'uso responsabile e sicuro per risolvere problemi locali e mondiali e per sviluppare i posti di lavoro e le industrie del futuro, garantendo al tempo stesso che l'intelligenza artificiale non faccia deragliare il ruolo fondamentale che la proprietà intellettuale svolge nell'incentivare l'ingegno umano e gli investimenti", ha affermato in una nota il sottosegretario al Commercio per la proprietà intellettuale Kathi Vidal.
Il NIST prevede di implementare il NIST GenAi in più fasi. L'agenzia ha affermato che inizierà ad accettare le registrazioni dei team nel programma nel maggio 2024 e concluderà il suo primo ciclo di test nell'agosto 2024. L'agenzia non ha detto quali altri problemi relativi all'intelligenza artificiale affronterà nei turni successivi.