Vai al contenuto principale
SECO
  • Edge Computing

Machine Learning all'edge: alcuni casi applicativi di Novelty Detection su gateway IIoT

Nell'articolo presentiamo la progettazione e lo sviluppo dei moduli di Machine Learning (ML) per due casi di studio. In entrambi i casi abbiamo sviluppato un modello ML per apprendere il comportamento normale del sistema così da identificare qualsiasi condizione anomala che possa presentarsi. Un tale framework viene solitamente indicato come Anomaly Detection (nota anche come Fault Detection o Novelty Detection). I nostri modelli sono riusciti a identificare le anomalie iniettate. Inoltre, non sono state osservate anomalie quando al modello sono stati forniti dati normali. I risultati sono discussi considerando il compromesso tra tipo di sensori, algoritmo di apprendimento, impegno di addestramento e richieste computazionali.

Machine learning all'edge

I. Introduzione

L'Internet of Things (IoT) ha reso possibile raccogliere un'enorme quantità di dati di oggetti reali attraverso i suoi dispositivi connessi. Monitorare l'ambiente e le macchine che compongono l'attuale impianto industriale non è mai stato così fattibile e accessibile grazie alla diffusione di sensori a basso costo e a basso consumo, oltre che di potenti single board computer (SBC), usati come gateway IoT. Tuttavia, estrarre i dati acquisiti per sfruttarne il potenziale nascosto e trasformarlo in oro non è né banale né facile da trasferire in processi standard, data la varietà di macchinari che possono essere impiegati e i diversi modi per “sentirli” e verificarne lo stato di salute.

II. Condition Monitoring e Fault Detection nei sistemi IoT

Espressioni più o meno recenti come “fault detection and diagnosis”, “condition monitoring”, “predictive maintenance” e un'abbondante quantità di variazioni sul tema sono diventate popolari o hanno acquisito un nuovo significato nel gergo della Smart Factory. Sebbene i confini tra di esse siano spesso mal definiti, si riferiscono comunemente a un insieme di strategie diverse volte a ridurre sia i guasti imprevisti sia i costi di manutenzione di un'azienda mediante il rilevamento precoce di guasti potenzialmente pericolosi o addirittura catastrofici. L'interazione tra IoT e Artificial Intelligence (AI) ha aperto le porte a nuovi approcci data-driven per il successo in termini di sicurezza e affidabilità dei processi industriali [1]. Utilizzando diversi tipi di sensori è ora possibile raccogliere ed elaborare informazioni sfaccettate sul macchinario in funzione e sull'ambiente circostante: corrente, tensione e altre grandezze elettriche, temperatura, pressione e umidità, vibrazioni e segnali acustici, radiazioni elettromagnetiche in varie gamme di frequenza, e così via [2].

Il condition monitoring (CM) on-line consiste nel misurare una o più variabili – parametri della condizione – su una macchina mentre è in funzione, con l'idea di verificare se esse o altre grandezze derivate rientrino nei limiti “accettabili” dal punto di vista fisico, progettuale o di sicurezza, oppure rispetto alle loro variazioni storiche [3]. Questo test viene condotto con approcci che vanno dai semplici controlli di soglia su un singolo parametro ai sistemi esperti basati su regole, dai metodi basati su modelli (ad es. agli elementi finiti) a sofisticate tecniche di machine learning [4]. In generale, se il test fallisce viene generato un allarme, che attiva una decisione su se e quale tipo di azioni correttive adottare. In questo senso il CM è il requisito principale per la predictive maintenance (PM), ovvero l'uso dei dati misurati per prevedere i guasti imminenti prima che si verifichino [5] e determinare quando è più conveniente intervenire su una macchina. Di conseguenza, le operazioni di manutenzione e di sostituzione parziale o totale della macchina possono essere programmate in base alle informazioni fornite dalle valutazioni del sistema di condition monitoring.

Esiste una vasta letteratura su questi temi, che raccoglie molte prospettive e ambiti applicativi. Una sintesi di dieci anni fa di ricercatori della NASA si trova in [6] sulle tecniche di AI per la prognostica, cioè “rilevare i precursori di un guasto e prevedere quanto tempo resta prima di un probabile guasto”. In [7] si trova una rassegna delle recenti soluzioni statistiche data-driven per stimare la remaining useful life (RUL), cioè la vita utile residua di un asset in un dato momento di esercizio, che svolge un ruolo cruciale nella condition-based maintenance (CBM). Una rassegna della letteratura sulle metodologie prognostiche per la CBM [8] le ha classificate in quattro categorie (modelli fisici, basati sulla conoscenza, data-driven e combinati), concentrandosi sugli approcci data-driven sia parametrici sia non parametrici. Inoltre, per fornire una sintesi dettagliata della “diagnostica e prognostica dei sistemi meccanici che implementano la CBM, con enfasi su modelli, algoritmi e tecnologie per l'elaborazione dei dati e il processo decisionale di manutenzione”, [9] descrive anche le tecniche di data fusion di più sensori. Tra gli articoli più recenti, [10] riassume le applicazioni del deep learning nei sistemi di monitoraggio dello stato delle macchine, con particolare attenzione alle Artificial Neural Networks (ANN). [11] presenta una panoramica delle soluzioni di CBM e PM degli ultimi quindici anni e di come abbiano prodotto risultati su diverse parti o processi delle macchine.

III. Casi di studio

I casi di studio sono stati individuati grazie alla partecipazione a un progetto sostenuto dal governo toscano per promuovere le soluzioni Industrial IoT (IIoT). L'IIoT è un progetto biennale finanziato dalla Regione Toscana, incentrato su Industry 4.0 e avviato nel 2018. Diverse aziende collaborano per creare un nuovo framework che aiuti le imprese a migrare verso la nuova prospettiva di Industry 4.0, innovare i propri prodotti e trarre vantaggio dal nuovo mercato in crescita dell'IIoT.

Il progetto IIoT mira a progettare, produrre e lanciare sul mercato un nuovo prodotto. Comprenderà un insieme di strumenti hardware embedded, una piattaforma software basata su servizi cloud, ML e servizi professionali. È dedicato a tutte le piccole e medie industrie che non hanno le capacità per qualificarsi come entità digitale o come produttore digitale in termini di risorse economiche o umane, conoscenze o competenze. Il sistema si propone di ridurre il divario iniziale di conoscenze per le aziende e anche di distribuire nel tempo l'investimento iniziale dell'intero processo. Il risultato finale sarà un insieme di hardware (bridge per sensori, gateway) pienamente integrato con un ambiente software progettato per gestire da remoto tutti i dispositivi, il flusso dei dati e la potenza di calcolo a diversi livelli. Inoltre sarà fornito un insieme di moduli ML – con processi di sviluppo dedicati – per risolvere le più comuni applicazioni industriali.

I contesti industriali principali da cui sono tratti i casi di studio sono due: un produttore di cappe da cucina e un produttore industriale di energia solare.

A. Ventilazione dell'aria – Cappa da cucina

In questa sezione descriviamo l'analisi di un playground con diversi aspetti interessanti, concentrandoci su due dettagli del monitoraggio remoto di un dispositivo: la previsione di un insieme discreto di stati di funzionamento e il rilevamento di possibili anomalie rispetto al comportamento operativo standard di ciascuno stato.

Le motivazioni per indagare un simile problema si possono riassumere nel monitoraggio in tempo reale di sensori che forniscono serie temporali ad alta frequenza e presentano una dinamica rapida che può degenerare velocemente in una situazione di guasto; nell'analisi di una misura fisica non direttamente correlata al fenomeno da monitorare; nello studio di un ensemble di modelli che combinano tecniche ML sia supervisionate sia non supervisionate; nella verifica delle prestazioni dell'edge computing durante l'esecuzione di un calcolo ad alta frequenza su Single Board Computer a basso consumo.

I risultati della prima analisi qualitativa mostrano che i requisiti computazionali complessivi sono sensibilmente inferiori alle attese e che l'algoritmo proposto è in grado sia di classificare lo stato dei sistemi sia di rilevare le anomalie con un elevato livello di accuratezza.

Descrizione del sistema

L'analisi proposta consiste nel monitoraggio remoto di una cappa da cucina tramite un gateway IoT, eseguendo completamente tutti i calcoli richiesti a livello edge. In particolare, vogliamo analizzare le condizioni di funzionamento del motore elettrico della cappa, che può essere una rappresentazione generale di qualsiasi tipo di motore industriale. Il gateway IoT è dotato di un algoritmo di Artificial Intelligence in grado di eseguire l'acquisizione dei dati in tempo reale, evitando un carico di lavoro intensivo sulla comunicazione di rete, che può causare problemi sia di traffico sia di sicurezza [12].

Questo approccio può essere utile in situazioni diverse. Un esempio, il più interessante nel nostro caso, è quando il sistema deve analizzare un fenomeno che produce dati ad alta frequenza, tanto che il monitoraggio in tempo reale sul cloud è impossibile. In questo caso l'algoritmo esegue direttamente il pre-processing richiesto, producendo una sintesi dell'ambiente (ad es., in questo caso, lo stato corrente ed eventualmente un guasto).

L'analisi viene eseguita sui motori elettrici della cappa utilizzati per pulire l'aria. Un dispositivo di questo tipo ha tre diverse velocità di funzionamento, che rappresentano diverse configurazioni operative. Il primo compito del sistema è classificare lo stato di funzionamento corrente in base alla firma vibrazionale. Naturalmente l'estrazione di questa informazione non è un aspetto cruciale, poiché è nota dal PLC della cappa. Tuttavia, l'analisi del segnale di ingresso, abbinata a un'informazione ben nota, fornisce un modo chiaramente definito per analizzare i dati e individuare l'elaborazione migliore per mettere in luce le caratteristiche rappresentative del fenomeno. L'acquisizione della firma vibrazionale è effettuata da un microfono piezoelettrico, che può acquisire dati con campionamento ad alta frequenza filtrando il possibile rumore acustico proveniente dall'ambiente esterno. L'acquisizione dei dati con questo alto livello di risoluzione ci ha permesso di eseguire analisi più complesse in una configurazione di Novelty Detection (ND). Abbiamo infatti cercato di rilevare possibili anomalie nel meccanismo di filtraggio del flusso d'aria analizzando le variazioni della firma vibrazionale degli stati. A tal fine abbiamo riscontrato che è difficile addestrare un singolo algoritmo ND che possa monitorare efficacemente tutte le configurazioni possibili. Poiché avevamo già addestrato il classificatore che ci fornisce l'etichetta dello stato corrente, abbiamo deciso di sviluppare un agente dedicato per ciascuno stato.

La pipeline globale è rappresentata nella Figura 1. Poiché, come già detto, il sistema deve essere in grado di analizzare dati campionati ad alta frequenza, le fasi di acquisizione e di inferenza sono alternate dopo il deployment, mentre i dati per la fase di addestramento possono essere raccolti offline.

Una volta acquisito dal microfono un buffer di campioni di dimensione adeguata, vengono applicate classiche tecniche di elaborazione del segnale basate sull'analisi di Fourier per produrre informazioni rilevanti nel dominio della frequenza. Ne risulta una serie di frame, ciascuno contenente informazioni su una piccola finestra temporale. Il classificatore di stato esegue poi più predizioni su questi dati di ingresso, inferendo una serie di etichette per i frame.

Si utilizza poi un approccio di voto a maggioranza per produrre un'unica etichetta robusta. La decisione finale serve a selezionare il modello corrispondente per eseguire la ND. Il modello riceve in ingresso gli stessi frame e fornisce un punteggio di novità basato sui campioni visti durante la fase di addestramento. Poiché anche il punteggio di novità non è perfetto, abbiamo utilizzato le predizioni sugli esempi consecutivi che compongono il buffer per applicare una finestra di smoothing ai punteggi, ottenendo maggiore robustezza rispetto al punteggio di anomalia.

Risultati

Tutta la sperimentazione è eseguita su un gateway SECO SBC-C23 dotato di CPU NXP i.MX 6SoloX Applications Processor (Cortex A9) [13]. L'ingresso è campionato a 44,1KHz con codifica a 16-bit. Per ogni stato abbiamo registrato circa un minuto di dati, che ha costituito il dataset sia per l'addestramento del classificatore sia per quello dell'algoritmo ND. I dati di test per il compito di rilevamento delle anomalie sono composti da tracce di circa 10 secondi contenenti (separatamente) dati normali oppure dati registrati occludendo parzialmente l'uscita del filtro dell'aria (per ogni stato vengono registrate una traccia normale e una anomala). Le feature di ingresso per entrambi gli algoritmi sono il logaritmo della potenza dello spettrogramma in frequenza, calcolato su una finestra di 512 campioni con una sovrapposizione del 25% (calcolato con la libreria python Librosa [14,15]), producendo un vettore di 257 feature, a cui aggiungiamo informazioni sull'RMSE del segnale.

VelocitàClassificazione (su singoli frame)Rilevamento anomalie (su sequenze di frame)
AccuratezzaAnomalie rilevateTasso di falsi positivi
199,7999,851,09
297,2198,790,56
373,2172,010,00
Per ogni velocità del motore della cappa abbiamo riportato l'accuratezza di classificazione in condizioni normali (prima colonna). La percentuale di anomalie rilevate (seconda colonna) e la percentuale di falsi positivi (terza colonna) sono riportate in condizioni anomale, con l'uscita del filtro dell'aria parzialmente occlusa.

Sia il classificatore sia il rilevatore sono basati su reti neurali (implementate in Keras [16]). Il classificatore è una rete neurale feed-forward a 2 livelli (con 100 HU) che esegue una predizione a 3 classi. Per ogni classe, l'algoritmo ND è implementato come un semplice Auto-Encoder (un livello nascosto con 32 HU), considerando l'errore di ricostruzione come punteggio dell'anormalità di ciascun pattern. Lo smoothing è impostato per considerare circa 20 predizioni. In questa configurazione l'addestramento del modello può essere eseguito direttamente all'edge, in meno di mezz'ora.
Nella fase di test la scheda impiegata è in grado di fornire predizioni a circa 2,5 Hz, con un carico della CPU del 27% e un consumo di memoria del 2% (su 4GB). Accuratezza e prestazioni di rilevamento sono riassunte nella Tabella 1.

Come si vede, le prestazioni di predizione sono piuttosto elevate, con un calo sensibile nello stato 3, con velocità maggiore e più dinamica nelle frequenze. Tuttavia l'approccio di voto a maggioranza permette di fornire la classificazione corretta su ogni buffer di campioni se nel buffer non si sono verificati cambi di stato (del resto, in questa configurazione ogni buffer è una frazione di secondo). La parte relativa all'etichetta corretta è un passaggio fondamentale per selezionare il modello giusto con cui eseguire la ND. Anche in questo caso, il tasso di anomalie rilevate, rispetto ai falsi allarmi, è abbastanza alto da rendere superflua ogni ulteriore considerazione sulla soglia.

B. Pompa dell'acqua

Il secondo scenario si basa su un sistema all-in-one in grado di assorbire e immagazzinare energia solare, riutilizzandola per vari servizi in contesti pubblici o privati e per la purificazione dell'acqua nelle zone off the grid. La soluzione nasce da un contesto di pubblica utilità nelle aree svantaggiate del pianeta, dove la disponibilità di acqua potabile ed elettricità è limitata, ma è adatta anche a un ambiente privato per la gestione domestica dell'energia. Inoltre può fungere anche da hotspot Wi-Fi per la comunità in cui è collocato. Può essere dotato di una connessione dati 2G/3G/4G condivisibile in modalità wireless con i dispositivi circostanti, diventando un punto di riferimento sociale.

Dalle Business Question ai problemi di ML per progettare i sensori

Per definire la progettazione della soluzione IoT per la Survivor Box è stato necessario comprendere le esigenze di business. L'individuazione dei problemi di business ci ha permesso di definire un insieme di sensori posti in posizioni chiave del sistema meccanico. La definizione dell'insieme di sensori ci ha permesso di trasformare la business question in diversi problemi di ML. Quello che descriviamo è il rilevamento dei guasti della pompa di purificazione dell'acqua.

L'algoritmo utilizzato per apprendere il comportamento normale del sistema è stato il Local Outlier Factor (LOF) [17]. Durante la fase di addestramento, il LOF mira a identificare uno o più cluster di punti “normali” (qui un punto è un vettore a 9 dimensioni in cui ogni componente corrisponde alla lettura di uno specifico sensore) all'interno del training set. Poi, durante la fase di inferenza, il grado di anormalità di una nuova osservazione viene calcolato in base a quanto l'osservazione è isolata rispetto all'insieme di punti circostanti. Poiché ci aspettavamo che le letture dell'accelerometro fossero molto sensibili a oscillazioni impercettibili che caratterizzerebbero anche il comportamento normale del sistema, abbiamo scelto di non inferire lo stato del sistema (normale o anomalo) sulla base di singole predizioni del modello, ma di fare la media delle predizioni del modello sugli ultimi 10 punti. Il modello è stato implementato con Python e la libreria Scikit-learn [18]. L'addestramento del modello su 2000 punti dati ha richiesto circa 20 secondi, con un consumo di CPU [19]) del 2% e un consumo di memoria dello 0,1% (su 2GB). Durante la fase di inferenza il modello è stato in grado di effettuare circa 50 predizioni al secondo. Le prestazioni del sistema sono state valutate iniettando anomalie e verificando che venissero identificate. Inoltre abbiamo verificato che le osservazioni normali non fossero considerate anomalie.

I due tipi di anomalie che abbiamo testato sono stati:

  • anomalie dell'accelerometro: abbiamo battuto sulla superficie su cui era posizionato il sistema, creando così delle vibrazioni
  • anomalie del flusso d'acqua: abbiamo impiegato una piccola manopola per regolare il livello del flusso d'acqua. L'anomalia è stata simulata facendo scorrere l'acqua a una velocità diversa da quella usata durante l'addestramento del modello

Possiamo affermare con chiarezza che il nostro modello riesce a identificare le anomalie iniettate (Tabella 2). Inoltre non sono state osservate anomalie quando al modello sono stati forniti dati normali.

 Previsto
 NormaleAnomalia
RealeNormale10000
Anomalia121988
La matrice di confusione riporta le predizioni del modello su dati normali e dati anomali (quasi bilanciati tra perturbazione manuale dell'accelerometro e del flusso d'acqua).

Risultati

Una variazione delle condizioni ambientali, che a sua volta implica un cambiamento delle condizioni operative “normali” del sistema, può influire negativamente sul nostro modello. Riteniamo che esistano almeno due possibili soluzioni a un simile problema: la prima richiede che il modello sia addestrato su un dataset molto grande, in modo che i possibili cambiamenti delle condizioni ambientali siano “incorporati” nel dataset. Tuttavia ciò aumenterebbe drasticamente sia il tempo di addestramento sia il tempo di inferenza, poiché il LOF è un algoritmo di apprendimento basato su istanze; la seconda soluzione, che si basa sul fatto che il tempo di addestramento è basso se è basso anche il numero di campioni di addestramento, mira a riaddestrare il modello ogni volta che le sue condizioni operative normali variano.

Conclusioni

Monitorare gli impianti industriali non è mai stato così fattibile e accessibile grazie alla diffusione di sensori a basso costo e a basso consumo e di potenti single board computer (SBC) usati come gateway IoT. L'interazione tra IoT e ML ha aperto la porta a nuovi approcci data-driven per il successo in termini di sicurezza e affidabilità dei processi industriali. In queste due applicazioni abbiamo testato con successo diversi metodi basati su ML, sia per predire lo stato del sistema a partire da un insieme di stati fissi, sia per rilevare possibili situazioni anomale, combinando anche i due approcci. Il monitoraggio è stato testato sia su misure dirette sia su misure indirette rispetto al fenomeno analizzato. Il sistema può eseguire il calcolo all'edge, permettendoci di lavorare in ambienti che richiedono un'acquisizione dei dati ad altissima frequenza, che può essere cruciale in quelle applicazioni in cui non è possibile condividere tutti i dati con un sistema remoto. Questo lavoro preliminare ci ha permesso di esplorare alcuni playground per valutare i compromessi tra costo computazionale e prestazioni su compiti reali, ponendo le basi per ulteriori indagini su sistemi di monitoraggio più complessi in scenari diversi.

Riferimenti bibliografici

[1] Al-Garadi, Mohammed Ali, et al. "A Survey of Machine and Deep Learning Methods for Internet of Things (IoT) Security." arXiv preprint arXiv:1807.11023 (2018).

[2] Si, Jia, Yibin Li, and Sile Ma. "Intelligent fault diagnosis for industrial big data." Journal of Signal Processing Systems 90.8-9 (2018): 1221-1233. (in inglese)

[3] Gustafsson, J., and F. Sandin. "District heating monitoring and control systems." Advanced District Heating and Cooling (DHC) Systems. Woodhead Publishing, 2016. 241-258. (in inglese)

[4] Sin, M. L., W. L. Soong, and N. Ertugrul. "Induction machine online condition monitoring and fault diagnosis-A survey." Australasian universities power engineering conference. Vol. 28. 2003. (in inglese)

[5] Jahnke, Patrick. "Machine learning approaches for failure type detection and predictive maintenance." Technische Universität Darmstadt 19 (2015). (in inglese)

[6] Schwabacher, Mark, and Kai Goebel. "A survey of artificial intelligence for prognostics." Aaai fall symposium (atti). 2007.

[7] Si, Xiao-Sheng, et al. "Remaining useful life estimation–a review on the statistical data-driven approaches." European journal of operational research 213.1 (2011): 1-14. (in inglese)

[8] Peng, Ying, Ming Dong, and Ming Jian Zuo. "Current status of machine prognostics in condition-based maintenance: a review." The International Journal of Advanced Manufacturing Technology 50.1-4 (2010): 297-313. (in inglese)

[9] Jardine, Andrew KS, Daming Lin, and Dragan Banjevic. "A review on machinery diagnostics and prognostics implementing condition-based maintenance." Mechanical systems and signal processing 20.7 (2006): 1483-1510. (in inglese)

[10] Zhao, Rui, et al. "Deep learning and its applications to machine health monitoring." Mechanical Systems and Signal Processing 115 (2019): 213-237. (in inglese)

[11] Sakib, Nazmus, and Thorsten Wuest. "Challenges and Opportunities of Condition-based Predictive Maintenance: A Review." Procedia CIRP 78 (2018): 267-272.

[12] Čolaković, Alem, and Mesud Hadžialić. "Internet of Things (IoT): A review of enabling technologies, challenges, and open research issues." Computer Networks (2018). (in inglese)

[13] edge.seco.com/en/

[14] McFee, Brian, et al. "librosa: Audio and music signal analysis in python." Atti della 14th python in science conference. 2015.

[15] github.com/librosa/librosa

[16] keras.io

[17] Breunig, M. M., Kriegel, H. P., Ng, R. T., & Sander, J. (maggio 2000). LOF: identifying density-based local outliers. In ACM sigmod record.

[18] Scikit-learn: Machine Learning in Python, Pedregosa et al., JMLR 12, pp. 2825-2830, 2011.

Ricevi la newsletter di SECO.

Iscriviti con il tuo indirizzo email su seco.com.

Iscriviti