L’AI Act non è chiamato a stabilire se una macchina pensi, comprenda o possieda un’intelligenza analoga a quella umana.

La definizione di sistema di IA contenuta nell’art. 3, n. 1, adotta invece un criterio funzionale, fondato sulla capacità del sistema basato su macchina di operare con diversi livelli di autonomia, inferire dagli input come generare output e influenzare ambienti fisici o virtuali.

Usando la nozione di artificial agency di Luciano Floridi come chiave di lettura per comprendere tale impostazione, senza sovrapporre la riflessione filosofica alla definizione normativa, ecco come i tre criteri per un’agency artificiale (interattività, autonomia e adattabilità) aiutano a spostare l’attenzione dalla presunta “intelligenza” della macchina alle sue concrete capacità operative.

L’inferenza resta però l’elemento autonomo e decisivo che distingue la nozione dell’AI Act dal più ampio concetto di agency.

Ciò che emerge è una domanda più utile per organizzazioni e professionisti: non quanto sia intelligente un sistema, ma come determina gli output, con quale grado di autonomia opera e quali effetti può produrre nel contesto di impiego.

Perché l’AI Act non deve stabilire se una macchina “pensa”

L’espressione “intelligenza artificiale” contiene già un problema: accosta una tecnologia a un concetto – l’intelligenza – che nel linguaggio comune richiama la mente e le capacità cognitive umane.

Per quanto ciò sia suggestivo e rischioso allo stesso tempo da un punto di vista sociale e filosofico, nell’ambito della regolazione di sistemi di IA potrebbe trarre in inganno facendo ritenere che il diritto si preoccupi se una macchina sia intelligente o meno.

Il Regolamento sull’intelligenza artificiale (AI Act), le norme nazionali, gli atti di soft law come le linee guida e i framework non sono però chiamati a risolvere il problema filosofico della mente artificiale, ma a introdurre una disciplina che regoli il funzionamento di macchine e sistemi dotati di certe capacità computazionali.

Quindi, la domanda se un sistema di intelligenza artificiale sia davvero “intelligente” rischia di essere fuorviante, almeno sul terreno regolatorio.

Cosa richiede l’AI Act

L’AI Act non richiede che una macchina comprenda, abbia coscienza o manifesti intenzioni assimilabili a quelle umane.

La sua definizione di sistema di IA guarda piuttosto a un diverso fenomeno: una capacità tecnico-funzionale di elaborare input mediante inferenza, operare con un certo grado di autonomia e generare output idonei a incidere su ambienti fisici o virtuali.

La chiave di lettura di Luciano Floridi: il concetto di artificial agency

In questa prospettiva, la nozione di artificial agency elaborata da Luciano Floridi offre una chiave di lettura utile: non perché l’AI Act ne costituisca una traduzione normativa, ma perché aiuta a spostare il fuoco dalla metafora della macchina pensante alla concreta capacità di un sistema di agire, produrre effetti e inserirsi nei processi decisionali umani.

I testi di Floridi presi come riferimento per il presente articolo sono il paper dal titolo “AI as Agency without Intelligence: On Artificial Intelligence as a New Form of Artificial Agency and the Multiple Realisability of Agency Thesis”, Philosophy & Technology (2025) 38:30, pubblicato il 27 febbraio 2025, e il libro La differenza fondamentale, Mondadori, ottobre 2025.

Luciano Floridi: i 3 criteri per un’agency artificiale

Luciano Floridi crea una tassonomia di agency, ciascuna delle quali è dotata di caratteristiche proprie e di altre in comune con le restanti: si va dalla naturale all’umana individuale e sociale, passando per la biologica e animale.

Per il presente articolo, quella che interessa è l’artificial agency, che non coincide affatto con quella umana, sebbene lo stesso autore ammetta che il confine fra le due diventa sempre più labile man mano che i sistemi di IA diventano più sofisticati e integrati nella quotidianità, svolgendo compiti al posto e per conto dell’uomo.

L’avvento dell’IA ha portato a rivedere il concetto tradizionale di agency come capacità di azione autonoma e decisione deliberata.

I 3 criteri osservabili

Per qualificare e identificare al cospetto di quale agency ci si trovi, Floridi propone e descrive tre criteri osservabili, vale a dire l’interattività, l’autonomia e l’adattabilità:

• la prima indica la capacità di un agente di entrare in relazione col proprio ambiente attraverso un rapporto di reciproca influenza;
• il secondo criterio si riferisce alla capacità di un agente di avviare cambiamenti di stato indipendentemente da una causa esterna diretta;
• l’adattabilità, infine, è la capacità di un agente di modificare il proprio comportamento in base a input, come il mutamento di condizioni fisiche o l’acquisizione di dati, informazioni o esperienze.

Per Floridi, l’agency umana aggiunge alle tre menzionate caratteristiche, strati di finalità, deliberazione consapevole e creazione di significati culturali.

La vera novità

L’agency artificiale, che emerge dall’interazione tra obiettivi programmati e comportamenti appresi, è in sintesi una forma computazionale di agency guidata da obiettivi definiti da scopi umani: è proprio l’orientamento a un obiettivo a costituire per il filosofo la vera novità e il distacco dalla “mera” intenzionalità umana.

In particolare, l’adattabilità è rappresentata dall’apprendimento statistico e dalla capacità di riconoscere una grande gamma di pattern in contesti diversi; la capacità di adattamento rapido e contestuale coesiste con l’assenza di una vera intenzionalità, di uno sviluppo evolutivo e di un’autocomprensione.

L’IA agente

Per completezza, è bene aggiungere che Floridi individua un’altra forma di agency artificiale, quella sociale, altrimenti chiamata “IA agente”, che unisce alle caratteristiche dell’agency artificiale già descritta elementi di funzionalità collettiva, combinando programmazione deterministica e adattamento emergente.

Inferenza e autonomia: la logica della definizione europea di IA

La nozione di artificial agency non sostituisce né integra formalmente la definizione giuridica di sistema di IA dell’AI Act; può tuttavia chiarirne la logica funzionale, spostando l’attenzione dalla presunta intelligenza della macchina alle capacità con cui il sistema interagisce, opera con un certo grado di autonomia, può adattare il proprio comportamento e produce effetti sull’ambiente.

Detto ciò, è impossibile non notare una certa specularità o convergenza tra il concetto di Floridi e la definizione di cui all’articolo 3 dell’AI Act di sistema di IA, coincidendo quest’ultimo con un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce, dall’input che riceve, come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali. Il parallelismo con Floridi è soltanto parziale: il richiamo soprattutto all’autonomia e alla possibile adattabilità crea un punto di contatto.

Ma la capacità di inferenza rappresenta un elemento autonomo e decisivo della definizione normativa e l’adattabilità secondo il Regolamento è elemento possibile ed eventuale, non imprescindibile, collocato nella fase successiva alla messa in servizio (post-deployment).

Il processo di inferenza

Come ricordano gli Orientamenti della Commissione sulla definizione di sistema di intelligenza artificiale stabilita dal regolamento, il Considerando 12 del Regolamento spiega che la capacità inferienziale si riferisce al processo di ottenimento degli output, quali previsioni, contenuti, raccomandazioni o decisioni, che possono influenzare gli ambienti fisici e virtuali e alla capacità dei sistemi di IA di ricavare modelli o algoritmi, o entrambi, da input o dati.

L’inferenza è, infatti, un processo in base al quale le conclusioni sono tratte da presupposti noti, che nel caso dell’IA possono essere fatti, regole, modelli, caratteristiche oppure dati grezzi (vedi ISO/IEC 22989).

Essa chiama direttamente in causa l’apprendimento automatico (machine learning) nelle sue varie forme e viene descritta nel documento della Commissione come capacità che va di pari passo con l’autonomia, contribuendo a distinguere i sistemi di IA dai software tradizionali e dagli approcci di programmazione più semplici:

Input → inferenza → output → autonomia.

Due prospettive per le capacità operative dei sistemi

La nozione di artificial agency non costituisce una definizione alternativa né un’integrazione formale recepita dal Regolamento.

Le categorie di Floridi e gli elementi dell’articolo 3 appartengono infatti a piani diversi: le prime descrivono le caratteristiche dell’agire artificiale; i secondi delimitano il perimetro applicativo di una disciplina giuridica. Tuttavia, il confronto può rendere più intellegibile la logica funzionale della definizione europea, spostando l’attenzione dalla presunta intelligenza della macchina alle sue concrete capacità operative.

Se l’IA viene letta non come imitazione dell’intelligenza umana, ma come capacità artificiale di agire, le domande operative cambiano.

Non occorre chiedersi se il sistema “comprenda” ciò che fa.

Invece occorre verificare come interagisce con l’ambiente, quale grado di autonomia opera, se il suo comportamento muta nel tempo e quali effetti sono in grado di produrre i suoi output.

La tabella: affinità e differenze fra AI Act e la nozione di Floridi

Regolare ciò che il sistema fa, non ciò che sembra essere

Smettere di domandarsi se la fonte degli output è una forma di intelligenza per come si è abituati a intendere questa parola per fare spazio all’attenzione alla capacità e agli effetti dei sistemi di IA è il primo fondamentale passo mentale per progettare, sviluppare e definire una governance efficace e informata dei sistemi stessi.

Guardare all’intelligenza artificiale come a una forma di agency artificiale non significa sostituire alla definizione normativa una categoria filosofica diversa.

Significa, più limitatamente, adottare una prospettiva utile per comprendere la logica della definizione europea, che fa spostare l’attenzione dalla presunta intelligenza delle macchine alle sue capacità operative, ossia il modo in cui produce output, il grado di autonomia con cui opera, la possibile adattabilità del comportamento dopo l’impiego e gli effetti che può produrre. In quest’ottica, l’AI Act non regola una mente artificiale, ma sistemi capaci di operare attraverso inferenze e di generare previsioni, contenuti, raccomandazioni o decisioni suscettibili di incidere sul mondo.

L’agency è quindi una lente interpretativa che consente di cogliere un punto essenziale: una macchina non deve pensare come un essere umano per richiedere regole, limiti e controlli e un’adeguata governance del suo impiego.