Le uniche attività che obbligatoriamente ogni organizzazione che utilizzi sistemi o modelli di AI deve effettuare ai sensi dell’AI ACT (quindi qualunque organizzazione) sono la mappatura di tali sistemi/modelli e la loro classificazione.

Abbiamo anche visto che soltanto nel caso in cui si hanno sistemi ad alto rischio o a rischio limitato (termine in realtà assolutamente scorretto e non presente nella normativa) è necessario procedere ad ulteriori adempimenti.

È quindi fondamentale per chiunque, che queste prime due attività, siano svolte nel migliore dei modi. Entrambe sono tutt’altro che semplici e richiedono molta attenzione.

In particolare, il censimento dei sistemi non deve limitarsi ad applicazioni AI specifiche, ma può riguardare anche componenti di sistemi più complessi, casi d’uso di AI generativa ed anche agenti AI[1].

I quattro livelli di rischio

La rappresentazione classica, veicolata anche sui siti dell’UE prevede 4 diversi livelli di rischio, che identificano i sistemi come:

• vietati
• ad alto rischio
• con requisiti di trasparenza
• a rischio minimo.

Questa rappresentazione potrebbe essere è fuorviante in quanto sembra che un sistema che appartiene ad una determinata classe non possa appartenere anche ad altre.

Sistemi vietati e ad alto rischio

L’AI ACT identifica i sistemi vietati (CAPO II, art.5) e i sistemi ad alto rischio (CAPO III, art. 6).

Sussiste successivamente un’altra fattispecie, che è quella prevista dall’articolo 50, che tuttavia non identifica un livello di rischio, ma una caratteristica dei sistemi (quali ad esempio i sistemi di IA destinati a interagire direttamente con le persone fisiche), tale per cui tali sistemi richiedono delle specifiche regole di trasparenza.

Un sistema ad alto rischio può anche ricadere nelle fattispecie previste dall’articolo 50, il quale infatti recita, al comma 6:

I paragrafi da 1 a 4 lasciano impregiudicati i requisiti e gli obblighi di cui al capo III, così come gli altri obblighi di trasparenza stabiliti dal diritto dell’Unione o nazionale per i deployer dei sistemi di IA.

Se si identifica un sistema come ad alto rischio, e ci si limita ad implementare i requisiti previsti per tale fattispecie senza valutare se sia anche soggetto ai requisiti previsti dall’articolo 50 (in quanto si ritiene che le 2 condizioni siano mutualmente esclusive) si rischia di non essere conformi.

Va inoltre ricordato che la classificazione qui riportata, è quella prevista ex ante ed in carico ogni operatore, ma non esaurisce i possibili livelli di rischio che la normativa attribuisce ai sistemi.

Le due fattispecie ulteriori

Ex post sono le autorità che possono intervenire, con due ulteriori fattispecie, previste dagli articoli:

• Articolo 79 – Procedura a livello nazionale per i sistemi di IA che presentano un rischio
• Articolo 82 – Sistemi di IA conformi che presentano un rischio

In particolare, l’articolo 79 recita:

1. Un sistema di IA che presenta un rischio è inteso come un «prodotto che presenta un rischio» quale definito all’articolo 3, punto 19, del regolamento (UE) 2019/1020 nella misura in cui presenta rischi per la salute o la sicurezza o per i diritti fondamentali delle persone.

2. Qualora l’autorità di vigilanza del mercato di uno Stato membro abbia un motivo sufficiente per ritenere che un sistema di IA presenti un rischio di cui al paragrafo 1 del presente articolo, essa effettua una valutazione del sistema di IA interessato per quanto riguarda la sua conformità a tutti i requisiti e gli obblighi di cui al presente regolamento. Particolare attenzione è prestata ai sistemi di IA che presentano un rischio per i gruppi vulnerabili. Qualora siano individuati rischi per i diritti fondamentali, l’autorità di vigilanza del mercato informa anche le autorità o gli organismi pubblici nazionali competenti di cui all’articolo 77, paragrafo 1, e coopera pienamente con essi. I pertinenti operatori cooperano, per quanto necessario, con l’autorità di vigilanza del mercato e con le altre autorità o gli altri organismi pubblici nazionali di cui all’articolo 77, paragrafo 1.

Mentre l’articolo 82 recita:

1. Se, dopo aver effettuato una valutazione a norma dell’articolo 79 e aver consultato la pertinente autorità pubblica nazionale di cui all’articolo 77, paragrafo 1, l’autorità di vigilanza del mercato di uno Stato membro ritiene che un sistema di IA ad alto rischio, pur conforme al presente regolamento, rappresenti comunque un rischio per la salute o la sicurezza delle persone, per i diritti fondamentali o per altri aspetti della tutela dell’interesse pubblico, essa chiede all’operatore pertinente di adottare tutte le misure adeguate a far sì che il sistema di IA in questione, all’atto della sua immissione sul mercato o messa in servizio, non presenti più tale rischio senza indebito ritardo entro un termine che essa può prescrivere.

Ulteriori interventi da parte dell’autorità

Quindi, indipendentemente dalla classificazione effettuata dall’operatore, possono essere richieste ulteriori interventi da parte dell’autorità.

È evidente che in realtà tale fattispecie raramente si potrebbe verificare se non per i sistemi già classificati come ad alto rischio, (e quindi censiti in un registro), anche se l’articolo 79 non lo specifica.

Altrimenti c’è da chiedersi come possa un’autorità avere conoscenza della esistenza di un determinato sistema che possa presenta rischi ai sensi dell’art. 79.

La classificazione dei modelli

L’attività di classificazione non deve esaurirsi con i sistemi; anche per i modelli esiste una classificazione.

Questi si possono classificare in modelli di AI (per i quali nell’AI ACT non esiste una specifica definizione) e in modelli di AI per finalità generali:

63) «modello di IA per finalità generali»: un modello di IA, anche laddove tale modello di IA sia addestrato con grandi quantità di dati utilizzando l’autosupervisione su larga scala, che sia caratterizzato una generalità significativa e sia in grado di svolgere con competenza un’ampia gamma di compiti distinti, indipendentemente dalle modalità con cui il modello è immesso sul mercato, e che può essere integrato in una varietà di sistemi o applicazioni a valle, ad eccezione dei modelli di IA utilizzati per attività di ricerca, sviluppo o prototipazione prima di essere immessi sul mercato;

Questi ultimi si distinguono a loro volta in modelli di AI per finalità generali standard (definizione non presente) e modelli di AI per finalità generali che presentano un rischio sistemico così come previsto dall’articolo 51.

La classificazione nell’AI ACT: l’art. 51

L’articolo 51 dell’AI Act (“Classificazione dei modelli di IA per finalità generali come modelli di IA per finalità generali con rischio sistemico”) recita:

1. Un modello di IA per finalità generali è classificato come modello di IA per finalità generali con rischio sistemico se soddisfa una delle condizioni seguenti:

a) presenta capacità di impatto elevato valutate sulla base di strumenti tecnici e metodologie adeguati, compresi indicatori e parametri di riferimento;

b) sulla base di una decisione della Commissione, ex officio o a seguito di una segnalazione qualificata del gruppo di esperti scientifici, presenta capacità o un impatto equivalenti a quelli di cui alla lettera a), tenendo conto dei criteri di cui all’allegato XIII.

Quindi, in sintesi, avremo:

• i modelli di AI
• i modelli standard di AI per finalità generali
• i modelli di AI per finalità generali a rischio sistemico.

I modelli di AI per finalità generali sia standard, sia a rischio sistemico, sono soggetti ad una serie di requisiti, previsti in particolare dal Capo V.

Classificazione errata, le sanzioni previste dall’AI Act

L’attività di classificazione è quindi più complessa ed articolata di quanto ci si potrebbe aspettare e deve basarsi, oltre che sull’AI ACT e sul Regolamento 2026/1744, anche sugli altri documenti emessi dalle autorità, quali, in particolare:

• Orientamenti della Commissione relativi alle pratiche di intelligenza artificiale vietate ai sensi del regolamento (UE) 2024/1689 (regolamento sull’IA)
• Guidelines on the classification of high-risk AI systems

Inutile ricordare che un non corretto censimento o classificazione dei sistemi e dei modelli a cui segue la mancata implementazione dei requisiti normativi, può esporre una organizzazione alle pesanti sanzioni previste dall’AI ACT.

[1] Per quanto attiene la copertura degli agenti AI da parte dell’AI ACT si rimanda qui.