Intervista esclusiva con il CEO di Raspberry Pi: il nuovo kit AI da 70 dollari "un momento spartiacque per noi"
In questa intervista esclusiva su ZDNET, ho parlato con Eben Upton, CEO e co-fondatore di Raspberry Pi e Orr Danon, CEO e co-fondatore di Hailo, per conoscere il futuro di Raspberry Pi e l'accessibilità dell'intelligenza artificiale di bordo.
Sono sicuro che hai familiarità con il economico computer a scheda singola Raspberry Pi. Ne ho una decina circa che svolgono tutti i tipi di compiti specializzati nel laboratorio e nel Fab Lab. A febbraio, Raspberry Pi ha venduto 61 milioni di dispositivi in un periodo di 12 anni dal lancio.
Questi dispositivi non vengono utilizzati solo nel modo in cui li utilizzo io negli esperimenti hobbistici o per controllare stampanti 3D e funzionalità di casa intelligente. Gruppi di centinaia di Pi sono stati utilizzati per testare il software dei supercomputer. Sono ampiamente utilizzati per il controllo dell'automazione industriale. Sono incorporati all'interno di prodotti commerciali. Nel 2020, Raspberry Pis alimentava persino i ventilatori che mantenevano in vita i pazienti affetti da COVID-19.
Mescolare l’intelligenza artificiale con l’architettura Raspberry Pi non è una novità. Ma ora, Raspberry Pi offre il proprio kit AI da 70 dollari, basato sull’hardware del produttore di chip edge Hailo. Adrian Kingsley-Hughes ha discusso la tecnologia di questo kit nel suo articolo sull'argomento. È incuriosito dalla telecamera e dalle capacità di analisi della posa, con l'obiettivo di migliorare il suo sistema di sicurezza.
Poco prima del lancio, ho avuto l'opportunità di incontrare Eben Upton, CEO e co-fondatore di Raspberry Pi e Orr Danon, CEO e co-fondatore di Hailo per parlare del prodotto, del lancio, dell'intelligenza artificiale e di tutto ciò. significa.
E con questo, cominciamo.
ZDNET: cosa ha ispirato la partnership tra Hailo e Raspberry Pi?
Eben Upton (Raspberry Pi): Raspberry Pi e Hailo hanno obiettivi molto simili: portare la potenza dell'informatica generica e dell'accelerazione dell'intelligenza artificiale ad alte prestazioni ed efficienza a un'ampia comunità di appassionati, educatori e clienti industriali e embedded. Quindi ci è sembrata una collaborazione naturale e abbiamo lavorato negli ultimi sei mesi per renderla realtà.
ZDNET: in cosa differisce il kit AI Raspberry Pi dai precedenti prodotti Raspberry Pi?
Eben Upton (Raspberry Pi): I nostri clienti hanno creato applicazioni AI sui nostri prodotti fin da quando abbiamo lanciato Raspberry Pi 1 nel 2012. Queste funzionavano sui nostri core CPU Arm sempre più potenti o su supporti più vecchi -acceleratori di prestazioni, di cui Google Coral è l'esempio più evidente.
Il kit AI apre nuovi orizzonti, sia come primo prodotto AI a marchio Raspberry Pi, sia aumentando sostanzialmente le prestazioni rispetto agli acceleratori legacy. Pensiamo che consentirà una nuova ondata di applicazioni IA sia nella nostra comunità di hobbisti che nello spazio industriale e embedded.
ZDNET: quali sono alcune caratteristiche chiave del modulo di accelerazione AI Hailo-8L M.2?
Orr Danon (Hailo): Hailo-8L fornisce 13 tera di operazioni al secondo di potenza di calcolo, consentendo al Raspberry Pi 5 di eseguire moduli AI avanzati, principalmente applicazioni basate sulla visione per l'analisi video. Ciò avviene con un consumo energetico molto basso che non richiede il raffreddamento attivo del dispositivo, offrendo agli utenti Raspberry Pi funzionalità IA all'avanguardia.
ZDNET: puoi condividere alcuni esempi di progetti innovativi che potrebbero essere sviluppati con il kit AI Raspberry Pi?
Orr Danon (Hailo): Esistono infinite opzioni per incorporare analisi video e algoritmi di intelligenza artificiale nelle applicazioni Raspberry Pi e siamo ansiosi di vedere cosa svilupperanno gli utenti con queste nuove funzionalità.
Sono già molti gli utenti Raspberry Pi che hanno incorporato gli acceleratori AI Hailo nei loro progetti prima che lanciassimo questo prodotto. Uno di questi è Velo.ai che utilizza un Raspberry Pi Compute Module 4 potenziato da un acceleratore AI Hailo-8 per fornire Copilot, un sistema di assistenza al ciclista basato su fotocamera, ad alte prestazioni e a basso consumo per migliorare la strada dei ciclisti. sicurezza.
Eben Upton (Raspberry Pi): Sulla base dell'esperienza passata, mi aspetterei di vedere i nostri hobbisti trovare nuovi modi per applicare la consueta gamma di modelli "standard", incluso il rilevamento degli oggetti e l'estrazione delle pose. Ciò rappresenta la continuazione di una tendenza esistente, ma con l'acceleratore Hailo che supporta risoluzioni e frame rate più elevati e modelli più moderni e con maggiore precisione.
Nello spazio industriale esistono numerose possibilità, tra cui il controllo autonomo della robotica industriale e l'ispezione automatizzata dei prodotti.
Ma inevitabilmente le applicazioni più interessanti sono quelle che non possiamo prevedere. Proprio come Raspberry Pi ha ridotto il costo dell’elaborazione integrata ad alte prestazioni, il kit AI riduce il costo dell’accelerazione dell’inferenza dell’AI edge. Ciò significa che molte nuove applicazioni, che oggi sarebbero proibitive in termini di costi, avranno un ritorno sull’investimento positivo. Sarà emozionante scoprire quali sono queste applicazioni.
ZDNET: Puoi spiegare come le funzionalità AI del kit AI Raspberry Pi possono essere utilizzate nei progetti di automazione domestica?
Orr Danon (Hailo): Come accennato in precedenza, possiamo solo immaginare come gli utenti potrebbero sfruttare le funzionalità avanzate di intelligenza artificiale del loro Raspberry Pi. Questo significa fondamentalmente conferire alla casa visione e intelligenza; che potrebbe essere applicato a tutta una serie di applicazioni, dall'alimentazione degli animali domestici all'irrigazione delle piante, alla creazione di nuovi giochi o al potenziamento degli occhi e della comprensione dell'assistente domestico ("suggerisci una ricetta basata sugli ingredienti sulla mia tavola").
ZDNET: Come immagini l'utilizzo del kit AI Raspberry Pi nelle applicazioni di sicurezza?
Orr Danon (Hailo): il kit AI consente agli utenti Raspberry Pi di incorporare analisi video avanzate per identificare persone, animali, oggetti e veicoli. Gli utenti possono sviluppare applicazioni di controllo degli accessi e di protezione perimetrale basate su queste funzionalità.
Eben Upton (Raspberry Pi): Penso che questo sia uno dei casi d'uso in cui il kit AI darà davvero il massimo. Vediamo già molti esempi di applicazioni di sicurezza o di rilevamento della presenza sia da parte di appassionati che di clienti industriali: il "Santa Detector" è stato infatti uno dei primi progetti educativi presenti sul nostro sito. L'aggiunta di uno strato di comprensione semantica della scena consentirà all'utente di sperimentare risposte più sofisticate a segnali visivi specifici.
ZDNET: quali vantaggi offre Hailo-8L per i progetti di robotica rispetto ad altri processori?
Orr Danon (Hailo): rispetto ad altri processori, Hailo-8L offre un'elevata potenza di elaborazione con una capacità TOPS [Operazioni teoriche al secondo] a due cifre, al miglior rapporto prestazioni/costi del settore e rapporti prestazioni/consumo energetico.
Ciò consente al kit AI di fornire capacità di calcolo molto interessanti pur mantenendo l’efficienza dei costi.
ZDNET: in che modo l'integrazione dell'intelligenza artificiale con Raspberry Pi ne migliora le capacità per scopi didattici?
Eben Upton (Raspberry Pi): Abbiamo sempre creduto che sia importante insegnare ai bambini lo stato dell'arte dell'informatica e della tecnologia. Rendiamo loro un cattivo servizio insegnando loro una visione semplificata o obsoleta del mondo.
Il kit AI ci consente di aprire loro gli occhi sui nuovi strumenti che i modelli di reti neurali aggiungono alla cassetta degli attrezzi che porteranno con sé nella loro carriera.
ZDNET: che tipo di modelli IA possono essere implementati sul kit AI Raspberry Pi e come possono gli utenti crearli o ottenerli?
Orr Danon (Hailo): [Il kit AI] è completamente integrato con lo stack software della fotocamera di Raspberry Pi e supporta numerose applicazioni AI pronte all'uso attraverso la solida suite software di Hailo e lo zoo modello che copre tutti le attività più comuni di visione artificiale, come la classificazione, il rilevamento di oggetti, la segmentazione semantica, la stima della posa, la super risoluzione della stima della profondità, la rimozione del rumore dell'immagine, ecc.
ZDNET: in che modo il kit AI Raspberry Pi risponde alla crescente domanda di soluzioni AI edge?
Eben Upton (Raspberry Pi): il kit AI fornisce una piattaforma pronta all'uso per lo sviluppo e la distribuzione di applicazioni "edge AI". Con la nostra gamma di prodotti system-on-module Compute Module, supportiamo una transizione fluida da implementazioni di volume medio-basso utilizzando i nostri prodotti per computer a scheda singola Raspberry Pi e il kit AI, a sviluppi di volume più elevati utilizzando Compute Module accompagnato da Hailo 8 o Silicone da 8 litri su una scheda portante.
ZDNET: quali misure di sicurezza sono in atto per garantire la sicurezza e la privacy delle applicazioni AI sviluppate con il kit AI Raspberry Pi?
Orr Danon (Hailo): Poiché l'intelligenza artificiale è in esecuzione sul dispositivo periferico e non su un server cloud, questa soluzione offre il massimo livello di privacy e sicurezza dei dati. Le informazioni di identificazione personale (PII) possono essere elaborate all'edge e le informazioni rese anonime possono essere caricate nel cloud per ulteriori analisi e archiviazione.
Eben Upton (Raspberry Pi): è responsabilità dello sviluppatore garantire che la propria applicazione garantisca la sicurezza e rispetti la privacy dei suoi utenti. Ma, come afferma Orr, localizzare le operazioni di inferenza ai margini della rete riduce la possibilità di violazioni della privacy e, consentendo al dispositivo edge di prendere autonomamente decisioni supportate dall’intelligenza artificiale in assenza di connettività di rete, elimina alcune opportunità di problemi di sicurezza. presentarsi.
ZDNET: in che modo il kit AI Raspberry Pi contribuisce alla democratizzazione della tecnologia AI?
Eben Upton (Raspberry Pi): Crediamo fermamente nel valore sociale di offrire alle startup e alle piccole imprese l'accesso a tecnologie all'avanguardia. A sostegno di questa missione, e come per tutti i prodotti Raspberry Pi, il kit AI è disponibile per tutti a un prezzo basso e fisso [US$70].
Orr Danon (Hailo): Con un prezzo interessante e un pacchetto software facile da usare, questo prodotto consente agli sviluppatori di tutto il mondo, siano essi professionisti o hobbisti, di applicare l'intelligenza ai loro progetti, combinando la potenza di l'ecosistema Raspberry Pi con il nuovo mondo di applicazioni abilitate dall'intelligenza artificiale.
ZDNET: che consiglio daresti ai nuovi utenti che iniziano con il kit AI Raspberry Pi?
Eben Upton (Raspberry Pi): esplora l'ampia gamma di modelli curati, preaddestrati e preconvertiti nello zoo modello Hailo per trovare ispirazione. Molti casi d'uso comuni possono essere supportati utilizzando questi modelli o, in alternativa, possono fungere da ispirazione e punto di partenza per la propria sperimentazione.
Orr Danon (Hailo): Lascia correre la tua immaginazione...quasi tutto è possibile.
ZDNET: Pensieri o approfondimenti finali che vorresti condividere con i nostri lettori?
Orr Danon (Hailo): Hailo è molto entusiasta di questa collaborazione. Per Hailo, questa è un'opportunità per raggiungere un nuovo pubblico e abilitare veramente l'intelligenza artificiale all'avanguardia sia per gli ingegneri professionisti che per gli appassionati creativi. Poiché l’intelligenza artificiale generativa si sta lentamente espandendo dal cloud all’edge, vediamo un grande potenziale per la futura collaborazione con Raspberry Pi e nuovi modi per potenziare gli sviluppatori.
Eben Upton (Raspberry Pi): Questo è un momento di svolta per noi: la prima volta che implementiamo un prodotto AI di prima parte e l'opportunità di lavorare con un partner che ammiriamo molto tempo. Non vediamo l'ora di vedere cosa faranno le persone con il kit AI e dove ci porterà la nostra collaborazione con Hailo.
Considerazioni finali
Gli editori di ZDNET e io vorremmo ringraziare enormemente Eben Upton e Orr Danon per aver dedicato del tempo a impegnarsi in questa intervista approfondita. Ci sono molti spunti di riflessione qui. Grazie, Eben e Orr!
Il Raspberry Pi 5 e il kit AI sono disponibili presso l'elenco dei rivenditori approvati di Raspberry Pi.
Cosa ne pensi? I loro consigli ti hanno dato qualche idea su come utilizzare l'intelligenza artificiale nel tuo percorso da creativo o per la tua azienda o organizzazione? Fatecelo sapere nei commenti qui sotto.