La ricerca scientifica si è concentrata sull’individuazione e la dimostrazione delle migliori procedure nell’ingegneria dell’intelligenza artificiale applicata ai sistemi mission-critical.

In particolare, vanta una significativa produzione di paper sulla pianificazione e sull’integrazione di MLOps (machine learning operations) in scenari in cui le prestazioni dei modelli hanno un impatto diretto sull’efficacia operativa e sulla sicurezza.

Ecco cos’è il MLOps e perché è così importante.

Le sfide uniche del Machine Learning

Negli ultimi anni, il MLOps è diventato un aspetto fondamentale nell’ambito dell’intelligenza artificiale e della scienza dei dati.

Per esempio, le decisioni prese in frazioni di secondo dai sistemi autonomi possono influire sui risultati finali, mentre le previsioni dei modelli di analisi delle informazioni forniscono informazioni utili per la pianificazione strategica.

Nonostante gran parte di questo lavoro estenda le best practice e i requisiti generici del MLOps, gli use case del machine learning (ML) presentano sfide uniche che richiedono tecniche e policy specifiche.

Tra queste, vi sono la gestione dei dati di addestramento limitati a specifici ambiti, il mantenimento della sicurezza dei modelli attraverso diversi limiti di classificazione, la gestione della federazione dei dati in più ambiti operativi e lo sviluppo di rigorosi framework di test e valutazione (T&E) in grado di fornire valutazioni attendibili delle prestazioni e dell’affidabilità dei modelli in condizioni
avverse.

Affrontare queste sfide, garantendo al contempo il rigoroso rispetto delle normative e dell’etica, richiede un approccio olistico al MLOps che vada oltre le tradizionali procedure di sviluppo e implementazione.

Ecco i principi del MLOps e come viene applicato nei contesti mission-critical.

Cos’è il MLOps (machine learning operations)

Il MLOps (Machine Learning Operations) è un insieme di procedure che mira a implementare e mantenere in modo affidabile ed efficiente i modelli di machine learning in produzione.

Si tratta di un approccio che combina i principi DevOps (Development e Operation) con il machine learning, estendendo l’integrazione continua (CI – Continuous Integration), la consegna continua e la distribuzione continua (CD – Continuous Delivery) al ciclo di vita del machine learning.

In pratica, MLOps cerca di colmare il divario tra la scienza dei dati (che sviluppa i modelli) e l’ingegneria applicativa (che li distribuisce e li gestisce), per garantire che i modelli di ML possano essere sviluppati, distribuiti e mantenuti in modo robusto, scalabile e responsabile.

Per comprendere MLOps, è fondamentale riconoscere le criticità che riesce a risolvere. Man mano che le organizzazioni adottano il ML per guidare il processo decisionale e migliorare i propri prodotti, spesso incontrano ostacoli significativi nel passaggio da progetti sperimentali a sistemi affidabili e robusti, pronti per la produzione.

Questo divario tra la fase di sperimentazione e quella di implementazione è principalmente dovuto alle differenze tra l’ambiente di laboratorio (variabili e impostazioni) e quello di produzione.

Quando si passa dalla fase sperimentale a quella di produzione, è necessario tenere conto dei cambiamenti e dei disallineamenti relativi alla distribuzione dei dati, alle dimensioni del sistema e ad altri fattori ambientali.

Inoltre, l’implementazione di un modello richiede una collaborazione efficace tra gruppi di lavoro eterogenei (data scientist, ingegneri del software, team IT eccetera).

Colmare il divario tra i team di data science e quelli operativi

Proprio come DevOps ha unificato lo sviluppo del software e le operazioni IT, MLOps cerca di colmare il divario tra i team di data science e quelli operativi. MLOps non si limita a implementare i modelli in maniera più rapida, ma mira anche a farlo in modo più affidabile, garantendo una manutenzione efficace e assicurando che continuino a fornire valore nel tempo.

Questo processo copre l’intero ciclo di vita, dalla preparazione dei dati e dallo sviluppo dei modelli fino alla loro implementazione, al monitoraggio e al miglioramento continuo.

I 4 principi su cui si fonda MLOps

I principi su cui si fonda il MLOps sono:

• sviluppo e Sperimentazione (ML Dev);
• integrazione continua (CI per ML);
• consegna continua (CD per ML);
• monitoraggio e gestione (ML Ops).

Sviluppo e sperimentazione (ML Dev)

• gestione dei dati: realizzazione dell’acquisizione, della pulizia, della trasformazione, dell’etichettatura e dell’aggiornamento dei dati. I dati sono il cuore pulsante del ML, pertanto è fondamentale gestirli con rigore;
• sviluppo del modello: scelta degli algoritmi, addestramento, validazione e tuning dei modelli. Questo step include la gestione delle dipendenze, degli ambienti e delle configurazioni;
• aggiornamento del codice e dei modelli: utilizzo di sistemi di controllo della versione (come Git) per tenere traccia di tutte le modifiche al codice, ai dati e ai modelli;
• monitoraggio degli esperimenti: tracciamento delle metriche di performance, degli iper-parametri e dei risultati di ogni esperimento per poterli confrontare e selezionare il modello migliore;

Integrazione continua (CI per ML)

• test automatici: test del codice (unit test, integrazione test) e test specifici per il ML (test di qualità dei dati, test di performance del modello, test di regressione del modello);
• costruzione automatica: creazione automatica di pacchetti di codice e modelli pronti per la distribuzione. Questo step può includere la creazione di immagini Docker o pacchetti Python;
• integrazione del codice: ogni volta che un data scientist o un ingegnere del ML invia del codice, vengono eseguiti dei test automatici e viene creata una nuova versione del modello o del servizio.

Consegna continua (CD per ML)

• automazione della distribuzione: preparazione di processi automatizzati per distribuire i modelli addestrati negli ambienti di staging e produzione;
• gestione degli ambienti: creazione e gestione di ambienti di produzione e preproduzione coerenti e riproducibili;
• rollback e rollforward: capacità di tornare rapidamente a una versione precedente del modello in caso di problemi, o di implementare rapidamente nuove versioni;
• canalizzazione di distribuzione (deployment pipeline): predisposizione di un workflow automatizzato in grado di trasferire un modello da un ambiente di sviluppo a uno di produzione, passando per fasi di test e validazione:

Monitoraggio e gestione (ML Ops)

• monitoraggio delle prestazioni del modello: tracciamento nel tempo delle metriche principali (accuratezza, precisione, richiamo, F1-score, ecc.) per rilevare la deriva del modello (model drift) o la deriva dei dati (data drift);
• monitoraggio dell’infrastruttura: monitoraggio delle risorse hardware, della latenza delle inferenze e del throughput;
• avvisi e allarmi: configurazione di alert per ricevere notifiche in caso di problemi di performance o malfunzionamenti;
• registrazione (logging): registrazione delle inferenze del modello, degli input e degli output per il debug e l’analisi;
• riaddestramento (retraining): definizione di strategie per il riaddestramento automatico o manuale dei modelli quando le loro prestazioni si degradano o quando sono disponibili nuovi dati;
• governance e conformità: garantire che i modelli siano conformi alle normative e alle politiche aziendali, inclusa la spiegabilità dei modelli (explainability) e la correttezza (fairness).

Componenti chiave di MLOps nelle tre aree principali

Il ciclo di vita del MLOps coinvolge solitamente tre aree principali:

• DataOps: questo ambito si concentra sulla gestione e l’ottimizzazione dei dati durante tutto il loro ciclo di vita. Comprende le procedure per garantire la qualità dei dati, il controllo delle versioni e un’elaborazione efficiente.
• ModelOps: questo ambito si occupa dello sviluppo, dell’implementazione e del monitoraggio dei modelli ML. Ciò include il controllo delle versioni dei modelli, i test automatizzati e il monitoraggio delle prestazioni.
• EdgeOps: questo ambito comprende la gestione e l’ottimizzazione delle operazioni, dell’implementazione e della manutenzione di applicazioni, dati e servizi ai margini della rete, dove i dati vengono generati e dove è necessario intervenire in tempo reale.

DataOps

Il DataOps è fondamentale per qualsiasi flusso di lavoro che comprenda il ML e deve necessariamente includere queste fasi:

• data version control: è simile al controllo delle versioni nello sviluppo del software, questo processo tiene traccia delle modifiche apportate ai dati nel tempo. Garantisce che i dati utilizzati per l’addestramento e la convalida siano riproducibili e verificabili;
• data exploration and processing: questo processo include l’estrazione, la trasformazione e il caricamento (ETL) dei dati grezzi in un formato utilizzabile dagli algoritmi di ML. È fondamentale garantire la qualità dei dati e prepararli per l’addestramento del modello;
• feature engineering and labeling: questo processo prevede la creazione di nuove caratteristiche a partire dai dati esistenti e l’etichettatura accurata dei dati per attività di apprendimento supervisionato. Si tratta di un passaggio fondamentale per migliorare le prestazioni del modello e garantire l’affidabilità dei dati di addestramento.

ModelOps

Il ModelOps si concentra sulla gestione dei modelli ML durante tutto il loro ciclo di vita.

Gli aspetti chiave includono:

• model versioning: questo processo richiede la formazione e la convalida di diverse versioni di un modello per garantire un monitoraggio e un confronto accurati. Una versione efficace consente alle entità di confrontare e selezionare facilmente la versione migliore di un modello per l’implementazione, in base a criteri specifici quali la massima precisione o il tasso di errore più basso;
• model deployment: questo processo trasferisce un modello addestrato in un ambiente di produzione, garantendo una perfetta integrazione con i sistemi esistenti;
• model monitoring: una volta implementati, i modelli devono essere costantemente monitorati per garantire che mantengano la loro accuratezza e affidabilità nel tempo;
• model security and privacy: questo processo richiede l’implementazione di misure per proteggere i modelli e i dati associati da accessi non autorizzati o attacchi e per assicurare la conformità alle normative sulla protezione dei dati.

EdgeOps

L’EdgeOps sta diventando sempre più importante perché un numero crescente di dispositivi genera e richiede l’elaborazione in tempo reale dei dati ai margini della rete.

L’espansione dei dispositivi IoT e il conseguente Edge computing presentano sfide uniche in termini di requisiti di latenza (molte applicazioni edge richiedono risposte quasi istantanee), di limitazioni della larghezza di banda (è possibile elaborare localmente più dati e trasmettere meno dati) e di aggiornamenti o modifiche ai sensori, oltre a questioni di privacy e di sicurezza dei dati. EdgeOps affronta queste sfide attraverso:

• platform-specific model builds: questo processo richiede l’ottimizzazione dei modelli per i dispositivi edge e per le specifiche piattaforme, spesso mediante tecniche quali la quantization, il pruning o la compressione, al fine di ridurre le dimensioni del modello mantenendone l’accuratezza;
• edge model optimization: questo processo mira a migliorare le prestazioni e la stabilità dei modelli in ambienti edge, dove le risorse computazionali sono spesso limitate;
• distributed optimization: questo processo richiede l’adozione di strategie per ottimizzare i modelli su più dispositivi edge, spesso sfruttando tecniche quali l’apprendimento federato.

Perché MLOps è importante

MLOps affronta diverse sfide relative all’implementazione e alla manutenzione dei modelli ML, quali:

• riproducibilità: le procedure MLOps garantiscono che gli esperimenti e l’addestramento dei modelli possano essere facilmente riprodotti, aspetto fondamentale per il debug e il miglioramento dei modelli. Ciò include il controllo delle versioni non solo del codice, ma anche dei dati e degli artefatti dei modelli;
• scalabilità: MLOps fornisce un framework per scalare in modo efficiente l’addestramento e l’implementazione dei modelli. Ciò include strategie per l’addestramento e l’inferenza distribuiti;
• monitoraggio e manutenzione: MLOps include procedure per il monitoraggio continuo delle prestazioni dei modelli e per il loro riaddestramento, ove necessario. Ciò consente di individuare tempestivamente eventuali problemi quali la deriva dei modelli o dei dati;
• collaborazione: MLOps favorisce una migliore collaborazione tra data scientist, ingegneri del software e team operativi. Fornisce un linguaggio comune e una serie di procedure che permettono a questi ruoli, così diversi tra loro, di lavorare insieme in modo efficace.
• conformità e governance: nei settori regolamentati, MLOps contribuisce a garantire che i processi di apprendimento automatico soddisfino i requisiti di conformità e di governance necessari. Ciò include la conservazione delle tracce di audit e la tutela della privacy dei dati;
• affidabilità: riduce gli errori umani e garantisce che i modelli in produzione funzionino come previsto;
• velocità: accelera il ciclo di vita del machine learning, consentendo di passare più rapidamente dall’idea progettuale alla fase di produzione;
• efficienza: automatizza i processi ripetitivi, liberando i data scientist e gli ingegneri, per concentrarsi su attività di maggior valore;
• trasparenza e responsabilità: fornisce una maggiore visibilità sui modelli in produzione e ne facilita la comprensione del loro comportamento.

MLOps in contesti mission-critical

Sebbene i principi di MLOps siano ampiamente applicabili, devono spesso essere adattati a contesti specifici. Per esempio, diverse ricerche hanno riscontrato che le procedure MLOps devono essere personalizzate per soddisfare rigorosi requisiti normativi e di conformità etica.
Alcune differenze fondamentali nell’approccio ai contesti mission-criticial includono:

• misure di sicurezza avanzate per il trattamento dei dati sensibili, quali la crittografia e i controlli di accesso. Per esempio, in un sistema di rilevamento che utilizza il ML per l’analisi delle immagini, tutti i trasferimenti di dati tra l’ambiente di addestramento del modello e le piattaforme di implementazione potrebbero richiedere una crittografia end-to-end;
• controllo delle versioni e processi di auditing più rigorosi per mantenere una traccia trasparente dello sviluppo e dell’implementazione dei modelli, anche al fine di evitare attacchi avversari o sostituzioni di codice;
• test specializzati per verificare la robustezza e gli scenari avversi, al fine di garantire il corretto funzionamento dei modelli in situazioni critiche e automatizzate;
• è necessario considerare l’implementazione edge in ambienti con risorse hardware limitate, spesso in situazioni in cui la connettività può essere precaria. Per esempio, se un modello ML venisse implementato su droni autonomi per missioni di ricerca e soccorso, la pipeline MLOps potrebbe includere processi specializzati per la compressione dei modelli, in modo che possano funzionare in modo efficiente sull’hardware limitato del drone. Potrebbe anche incorporare tecniche che permettano al modello di funzionare in modo efficace in caso di connettività di rete intermittente o assente, garantendo che il drone possa continuare la sua missione anche in caso di interruzione della comunicazione;
• enfasi sull’interpretabilità e la spiegabilità del modello, fondamentali per il processo decisionale in scenari ad alto rischio.

Questi requisiti specifici spesso richiedono un approccio più rigoroso al MLOps, con livelli aggiuntivi di convalida e sicurezza integrati in tutto il ciclo di vita del ML.

L’evoluzione del settore

MLOps si sta rivelando la soluzione essenziale per le organizzazioni che desiderano ottenere un valore concreto dalle proprie iniziative di ML.

MLOps riunisce le migliori pratiche di ingegneria del software, di scienza dei dati e di gestione operativa, garantendo che i modelli di ML non solo funzionino bene in laboratorio, ma forniscano risultati affidabili e scalabili anche negli ambienti di produzione.

Pertanto, la comprensione e l’adozione delle procedure MLOps possono migliorare significativamente l’efficacia e l’affidabilità dei sistemi ML. Con la continua evoluzione del settore, ci si aspetta un’ulteriore specializzazione e perfezionamento delle procedure MLOps, in particolare nei settori che presentano requisiti specifici, come la sicurezza e la sanità.