Le identità aziendali possono correggere i difetti della generazione AI? Questa startup IAM la pensa così
Il mondo della gestione delle identità e degli accessi, IAM, sta cercando di domare il problema della fiducia nell’intelligenza artificiale generativa.
Gli scienziati dell'intelligenza artificiale (AI) stanno trovando sempre più modi per violare la sicurezza dei programmi di intelligenza artificiale generativa, come ChatGPT, quindi era solo questione di tempo prima che qualcuno applicasse le stesse tecniche di sicurezza informatica per controllare gli utenti e controllare le fonti di dati.
Mercoledì, la startup IndyKite di San Francisco ha svelato il suo tentativo di verificare ciò che entra nella Gen AI come base delle sue previsioni.
Il software "aiuta a garantire l'affidabilità 'integrata' dei dati sfruttati in qualsiasi modello di business o di analisi, impiegando un approccio incentrato sull'identità ai dati in cui la fiducia è fondamentale", ha affermato IndyKite.
IndyKite, tre anni, ha il pedigree dell'area di gestione dell'identità della sicurezza informatica meglio associata a Okta, più formalmente nota come "gestione dell'identità e degli accessi" o IAM.
Negli ultimi anni il campo dell’IAM si è ampliato per affrontare sfide che vanno oltre la semplice protezione delle reti e delle applicazioni aziendali. Ad esempio, Google ha depositato brevetti relativi all’applicazione dell’IAM al Web 3, i sistemi distribuiti basati su blockchain che governano tutto, dall’Internet delle cose alle criptovalute. La tecnologia è progettata per controllare l'accesso a dati sensibili come le storie mediche dei consumatori senza che i dati vengano copiati da un database all'altro.
Sebbene i dettagli sul sistema IndyKite siano finora limitati, è facile vedere come è possibile estendere l'accesso ai dati dei consumatori tramite identità per accedere alle origini dati per la Gen AI.
L'intelligenza artificiale generativa come ChatGPT di OpenAI è stata al centro di controversie a causa del modo in cui il programma viene addestrato su vasti set di dati che compromettono centinaia di gigabyte di dati.
I set di dati sono oggetto di molteplici azioni legali da parte di soggetti tra cui il New York Times, per presunta violazione del diritto d'autore.
OpenAI ha affermato che indennizzerà gli utenti aziendali del suo software da eventuali azioni legali.
Oltre ai problemi di violazione, i creatori di Gen AI si trovano ad affrontare domande su da dove arriveranno risposte autorevoli. L'approccio noto come "retrieval-augmented generation" cerca di connettere modelli linguistici di grandi dimensioni come GPT-4 con i database come oracolo della verità. L'approccio RAG, tuttavia, presenta le proprie sfide nel gestire la deriva dei dati, che può contribuire alla distorsione di un modello di rete neurale.
In teoria, tutte queste questioni potrebbero essere affrontate con metodi che garantiscano la provenienza dei dati prima che vengano inseriti nell’addestramento dei programmi.
Il fondatore di IndyKite Lasse Andresen è un imprenditore seriale che in precedenza ha fondato ForgeRock, un concorrente di Okta nella gestione delle identità. ForgeRock è stata venduta in agosto alla società di private equity Thoma Bravo per 1,8 miliardi di dollari.
Il software IndyKite sfrutta il popolare software di gestione del database grafico Neo4j, che crea un grafico della conoscenza delle relazioni scoperte in un'impresa. "IndyKite garantisce informazioni accurate e ricche nel grafico della conoscenza aziendale utilizzando Neo4J come backend dati", afferma IndyKite.
Secondo Crunchbase, IndyKite ha ricevuto un totale di 10,5 milioni di dollari in finanziamenti iniziali da Molten Ventures, Alliance Ventures e SpeedInvest.