Vai al contenuto principale
SECO
  • AI
  • Edge Computing

Scegliere e addestrare i modelli AI giusti per l’edge

Le applicazioni di edge AI rappresentano un enorme potenziale di ricavi. Eseguire l’inferenza direttamente sui dispositivi locali apre un’ampia gamma di potenti applicazioni, tra cui rilevamento di oggetti, controllo vocale e gestuale, manutenzione predittiva e sistemi autonomi.

I modelli AI giusti

Distribuire queste applicazioni non è però semplice. Rispetto all’hardware tradizionale, i sistemi embedded con vincoli di dimensioni dispongono di risorse limitate. Il successo dipende quindi dalla scelta dell’architettura di modello appropriata e dall’uso delle giuste tecniche di addestramento per bilanciare i requisiti operativi con i limiti tecnici dell’hardware edge.

Il percorso dai dati grezzi a un modello addestrato

Sviluppare un modello di edge AI efficace richiede una pipeline ben definita che trasformi le informazioni grezze in una soluzione distribuibile.

Questo percorso inizia con la raccolta dei dati. Prima di qualsiasi addestramento, un modello AI ha bisogno di dati di alta qualità, rappresentativi e completi. È fondamentale considerare non solo da dove proverranno i dati, ma anche come verranno pre-elaborati, archiviati e protetti. Una volta raccolti, i dati devono acquisire significato tramite l'etichettatura (labeling), in cui vengono annotati manualmente o in modo semi-automatico con tag o categorie. Questo processo permette al modello di comprendere i propri input e aiuta a mitigare i bias e a migliorare l'accuratezza.

Con i dati etichettati pronti, l’attenzione si sposta sulla scelta dell’architettura di modello più adatta all’hardware e al caso d’uso. Le opzioni principali includono:

  • Le reti neurali convoluzionali (CNN), specializzate nei dati spaziali e usate soprattutto per elaborazione di immagini, computer vision e rilevamento di oggetti.
  • Le reti neurali ricorrenti (RNN) sono progettate per elaborare dati sequenziali o temporali. La capacità di una RNN di ricordare gli input precedenti la rende ideale per compiti come l'elaborazione del linguaggio naturale (NLP) e le previsioni.
  • TinyML, che usa varie architetture per creare modelli costruiti appositamente per funzionare su dispositivi con memoria e potenza estremamente ridotte, come i microcontrollori. Sono spesso usati per la manutenzione predittiva o il rilevamento in tempo reale di oggetti e suoni.

L’architettura scelta prende vita nella fase di addestramento, un processo iterativo in cui il modello impara gradualmente a riconoscere ed estrapolare pattern dai dati etichettati. Questo gli permette di diventare sempre più accurato nel classificare o decidere sulla base di nuove informazioni.

L’addestramento non è però l’ultimo passo. Per assicurarsi che il modello funzioni nel mondo reale, viene sottoposto a rigorosa validazione, messa a punto e test. Una parte dei dati viene tenuta da parte durante l'addestramento per valutare la capacità di generalizzazione del modello e metterlo a punto contro problemi come l'overfitting. Infine viene testato con un altro insieme di dati mai visti, che serve come misura finale di prestazioni, accuratezza e bias.

Il ruolo cruciale dei dati di alta qualità

Un modello AI vale quanto i dati su cui è addestrato, un principio ancora più vero per l’edge AI. A causa di memoria, potenza di elaborazione ed energia limitate, i modelli edge sono in genere più piccoli e hanno una tolleranza all’errore molto più bassa dei modelli tradizionali. Dati di alta qualità e pertinenti permettono al modello di apprendere pattern significativi e di addestrare modelli compatti, ideali per i vincoli dell’hardware edge.

Per ottenerlo serve un approccio rigoroso alla preparazione dei dati. Questo processo continuo comprende la definizione delle strategie di raccolta, l’individuazione di tutti gli scenari possibili per il modello e la valutazione iterativa dei dati man mano che vengono raccolti.

Dataset puliti e bilanciati sono inoltre essenziali per evitare che il modello apprenda caratteristiche irrilevanti o distorte. I dati vanno pre-elaborati per eliminare duplicati, errori e rumore, correggendo anche le incongruenze. Da lì si isolano le caratteristiche più rilevanti, si standardizzano gli input e si espande e bilancia il dataset con tecniche come l’augmentation.

L’equilibrio nella scelta dell’architettura del modello

Scegliere l’architettura di un modello di edge AI è un delicato esercizio di equilibrio tra accuratezza, velocità di inferenza, disponibilità di risorse, flessibilità e specializzazione. Un’architettura complessa come una grande CNN può offrire alta accuratezza, ma a costo di più potenza di calcolo e memoria. Al contrario, architetture leggere come i modelli TinyML sono veloci ed efficienti ma possono richiedere di sacrificare parte delle prestazioni del modello. Analogamente, un modello generico può essere applicabile più ampiamente ma richiedere più risorse di un modello specializzato, più efficiente ma meno adattabile.

Questi compromessi vanno valutati tenendo ben presenti i limiti dell’hardware. Ad esempio un modello come YOLO è costruito appositamente per la computer vision e offre dimensioni scalabili dal completo YOLOv8 al leggero YOLOv10-Nano, adatte a diverse capacità hardware. I modelli di Hugging Face, una piattaforma open source di large language model, eccellono invece nell’NLP e sono adatti ad applicazioni multimodali. Un’altra opzione, Mistral, offre grande flessibilità con il supporto di molti linguaggi di sviluppo, ed è ideale per l’analisi contestuale.

Tenere a mente i limiti dell’hardware

I limiti dell’hardware vanno tenuti ben presenti nel prendere decisioni, perché dispositivi e modelli edge devono essere abbinati in modo appropriato in termini di memoria, potenza di elaborazione e consumo energetico. Il nostro precedente articolo Scegliere l’AI giusta per la sicurezza video illustra come funziona questo processo nella pratica.

SECO semplifica questo esercizio di equilibrio offrendo un ampio portafoglio di piattaforme hardware e software per l’edge AI, su misura per una gamma di requisiti di prestazioni, consumi e form factor. Dai moduli ad alta efficienza ai potenti computer industriali, SECO permette agli sviluppatori di abbinare il modello AI giusto al sistema giusto.

Kit di sviluppo, reference design e soluzioni pronte all’integrazione snelliscono il percorso dal concetto al deployment, rendendo più rapido e semplice portare sul mercato prodotti basati sull’AI.

Ottimizzazioni finali per le massime prestazioni all’edge

Poiché gli ambienti edge hanno risorse limitate, l'ottimizzazione di dimensioni e complessità del modello è essenziale per farlo funzionare in modo efficace. Diverse tecniche comuni aiutano a raggiungere questo obiettivo:

  • La quantizzazione riduce le dimensioni del modello e ne migliora la velocità diminuendo la precisione dei suoi valori numerici, ad esempio convertendo valori in virgola mobile a 32 bit in interi a 8 bit.
  • Il pruning riduce ulteriormente la complessità individuando e rimuovendo i segmenti ridondanti o inattivi della rete neurale.
  • Strumenti specializzati di compressione e deployment come TensorFlow Lite, ONNX e PyTorch assistono nella conversione, ottimizzazione e distribuzione di questi modelli snelli sui dispositivi edge.

Conclusione

Il potenziale dell’edge AI è significativo, ma per sbloccarlo servono i giusti dati di addestramento, la giusta architettura di modello e il giusto hardware. Le organizzazioni devono bilanciare con attenzione i propri obiettivi di business e le esigenze operative rispetto ai vincoli di risorse intrinseci all’edge computing.

Qualunque sia il tuo caso d’uso, SECO può aiutarti a implementare l’AI all’edge in modo rapido, efficiente ed efficace. Contattaci oggi per scoprire come entrare in questo mercato in rapida crescita.

Ricevi la newsletter di SECO.

Iscriviti con il tuo indirizzo email su seco.com.

Iscriviti