Il commento del corelatore dell’AI Act, Brando Benifei

Brando Benifei, europarlamentare italiano e corelatore dell’AI Act, era presente proprio venerdì a un convegno sull’AI organizzato dall’Università di Genova (a cui ha partecipato anche Guerre di Rete, per cui possiamo riportare direttamente le sue parole e le risposte alla domande fatte).

“Il voto in plenaria del Parlamento potrebbe avvenire già tra marzo e aprile”, ha detto l’europarlamentare specificando di aver scritto alla Presidente del Parlamento Ue Roberta Metsola, chiedendo di dare priorità al file in modo da riuscire a votare già a marzo. L’idea è di accelerare sui tempi di implementazione, che a detta di Benifei sarebbero i seguenti: sei mesi per l’entrata in vigore dei divieti (“quindi se approvazione a marzo-aprile parliamo di circa ottobre”); un anno per gli obblighi sulla trasparenza; due anni per il conformity assessment (procedura di conformità) sui sistemi ad alto rischio (in questo ultimo caso servono degli standard che si devono ancora sviluppare, commenta il corelatore). Siccome però a giugno ci sono le elezioni europee, l’Unione proporrà “una procedura di compliance anticipata volontaria, con incentivi, al fine di iniziare già ad applicare la norma”, ha detto Benifei. Si tratta dell’AI Pact, da non confondere con l’AI Act.

Benifei è poi tornato su alcuni degli usi vietati, ad esempio la polizia predittiva. “Alcuni governi non volevano che fosse vietata ed è stato l’ultimo punto che abbiamo chiuso [nelle trattative, ndr]. Abbiamo stabilito che non si possono individuare singole persone come possibili criminali, per noi il principio di non colpevolezza è essenziale. Invece non vietiamo la crime analytics, ad esempio la possibilità di individuare delle zone più a rischio. Ovviamente la crime analytics rientra nei sistemi catalogati dall’AI Act come ad alto rischio [quindi deve seguire le procedure richieste, ndr]”.

Per quanto riguarda i modelli di AI general purpose ad alto impatto e con rischio sistemico (high-impact GPAI models with systemic risk) per cui sono previsti obblighi più stringenti come valutazioni del modello, dei rischi sistemici, test di sicurezza ecc (li trovate qua) Benifei conferma che “si applicheranno a GPT4 e Gemini, e anche ai modelli europei quando cresceranno. Tuttavia molti aspetti devono ancora essere determinati da parte del nuovo AI Office - prosegue il politico - specie per quanto riguarda i principi di safety (sicurezza), sotto supervisione del Parlamento. La base è un certo livello di FLOPs [la misura della complessità computazionale, ndr] ma ci saranno anche altri criteri, come il numero di utenti o dei parametri”.

Su open source e ricerca, Benifei dice che “il Regolamento non si applica a ricerca e sviluppo (né alla sicurezza nazionale, non essendo proprio il suo ambito), e prevede una esenzione parziale per l’open source. Dunque non si applica allo sviluppo e distribuzione, se non c’è volontà commerciale. In pratica lo sviluppatore open source non ha responsabilità ma sarà responsabile chi utilizza quel sistema per una specifica applicazione ad alto rischio (il provider). Dunque lo sviluppatore open source è tutelato. Ma nello stesso tempo abbiamo voluto evitare che l’open source usato ad esempio da Meta fosse escluso”.

Qui il testo attuale dell’AI Act. (via LIBE)
Per altre informazioni su AI Act vedi quanto era già uscito a dicembre: comunicato stampa Parlamento Ue; conferenza stampa (video); comunicato Commissione; Consiglio.

AI E POLITICA
Scontro Casa Bianca e lobbisti tech sulla regolazione dell’AI

Lo scorso ottobre la Casa Bianca ha firmato un importante ordine esecutivo sull’intelligenza artificiale. Tra le altre cose il provvedimento dava al Dipartimento del Commercio - che ospita il National Institute of Standards and Technology, un'agenzia che si occupa della definizione di regole e standard per la tecnologia -  la scadenza del 28 gennaio per elaborare uno schema che obbligasse le aziende a dare alcune informazioni al governo sui nuovi potenti modelli di AI in fase di sviluppo. Informazioni che includono la potenza di calcolo, la proprietà dei dati utilizzati e soprattutto i test di sicurezza.

Ora l’amministrazione Biden vuole implementare il provvedimento ricorrendo al Defense Production Act (una legge del 1950, nata ai tempi della guerra di Corea per velocizzare il rifornimento di materiali e risorse per questioni di sicurezza nazionale) per obbligare le aziende tecnologiche a informare il governo quando addestrano un modello di intelligenza artificiale utilizzando una quantità significativa di potenza di calcolo.

Gina Raimondo, segretaria al Commercio, “ha anche confermato che il Dipartimento del Commercio implementerà presto un altro requisito dell'ordine esecutivo di ottobre, che richiede ai fornitori di cloud computing come Amazon, Microsoft o Google di informare il governo quando un'azienda straniera utilizza le loro risorse per addestrare un modello linguistico di grandi dimensioni”, scrive Wired Usa specificando che i progetti stranieri devono essere segnalati quando superano la soglia iniziale di 10^26 FLOPs (floating-point operations per second, un'unità di misura della performance computazionale), lo stesso limite oltre il quale un modello di AI (americano) deve dare informazioni al Dipartimento del Commercio (per capirci, GPT-4 sarebbe di poco sotto questa soglia, secondo quanto riportato dal Congressional Research Service).

Cina, 40 modelli per uso pubblico, oltre 200 in attesa di approvazione

Per quanto riguarda i provvedimenti sulle aziende cloud americane, è inevitabile pensare al principale rivale strategico degli Usa sull’AI, ovvero la Cina. Come stanno andando lì le cose? Secondo Reuters, nei primi sei mesi da quando le autorità hanno iniziato il processo di approvazione, la Cina ha dato il via libera a più di 40 modelli di intelligenza artificiale per uso pubblico.
L’ultimo round è arrivato alcuni giorni fa quando le autorità hanno concesso l’ok a un totale di 14 modelli linguistici di grandi dimensioni (LLM) per uso pubblico, ha riferito Securities Times, un'agenzia statale cinese. Xiaomi e 01.AI sono tra i beneficiari.
La scorsa estate era stato infatti dato mandato a un organismo governativo, il China Electronic Standardisation Institute, di implementare uno standard nazionale per i modelli linguistici di grandi dimensioni.
Tra le applicazioni AI approvate questo mese ci sono uno strumento per la selezione dei curriculum della piattaforma cinese di reclutamento online Zhaopin e un chatbot dell'azienda di servizi di e-commerce Beijing Zhidemai Tech, scrive il South China Morning Post. Robin Li Yanhong, fondatore e Ceo di Baidu, gigante tech, ha dichiarato che a ottobre erano già 238 i modelli linguistici di grandi dimensioni del Paese, la maggior parte dei quali doveva ancora ricevere l'approvazione del governo. Mentre Ernie Bot, il chatbot di Baidu simile a ChatGPT, avrebbe 100 milioni di utenti, secondo il CTO dell’azienda.

La regolazione dell’AI in Cina

Tornando al quadro regolatorio della Cina sull’AI, fa il punto in un recente paper Angela Huyue Zhang, professoressa alla University of Hong Kong e direttrice del Philip K. H. Wong Center for Chinese Law, ricordando come nel luglio 2023 la CAC (l’autorità regolatoria sulla cybersicurezza)  “insieme ad altri sei dipartimenti governativi cinesi, abbia emanato congiuntamente le Misure provvisorie per regolamentare l'AI generativa. Queste misure introducono una serie completa di obblighi per i fornitori di servizi di AI generativa, tra cui la moderazione dei contenuti, la gestione dei dati di addestramento, l'etichettatura degli output, la protezione degli utenti e le responsabilità contrattuali. Analogamente ai regolamenti sulle raccomandazioni algoritmiche e sulla deep synthesis (contenuti generati sinteticamente, ndr) - Algorithmic Regulation and the Deep Synthesis Regulation - quei servizi che possono influenzare l'opinione pubblica devono sottoporsi a una valutazione di sicurezza e registrare i loro algoritmi presso la CAC prima del lancio sul mercato. Gli esperti legali hanno osservato che questa valutazione della sicurezza (security assessment) è notevolmente più rigorosa rispetto alle valutazioni tradizionali per i servizi online, richiedendo informazioni dettagliate e un tempo considerevole. Questo requisito di valutazione della sicurezza ex ante rende inoltre la Cina il primo e unico Paese che ha imposto una licenza per il lancio di servizi di AI generativa”.
Tuttavia le misure si applicano solo a quei servizi di AI "rivolti al pubblico", esentando gli altri, precisa il paper. Che offre uno squarcio interessante sulle sottigliezze della regolamentazione cinese dell’AI per arrivare a concludere che sia più business friendly di quanto appaia.

OPENAI
Il Garante della privacy colpisce ancora

Nel frattempo il Garante italiano per la protezione dei dati personali ha notificato a OpenAI (la società dietro a ChatGPT) l’atto di contestazione per aver violato la normativa in materia di protezione dei dati personali. “A seguito del provvedimento di limitazione provvisoria del trattamento, adottato dal Garante nei confronti della Società lo scorso 30 marzo, e all’esito dell’istruttoria svolta, l’Autorità ha ritenuto che gli elementi acquisiti possano configurare uno o più illeciti rispetto a quanto stabilito dal Regolamento UE”, scrive il Garante.

“La denuncia dell'autorità si muove nell'alveo delle contestazioni del 2023 - scrive Wired Italia - E quindi base giuridica del trattamento dei dati personali; questione “allucinazioni”, ossia le risposte inesatte prodotte dal chatbot che possono condurre a una gestione impropria delle informazioni; trasparenza e questione minori. La missiva è stata spedita in Irlanda, dove ha sede il legale rappresentante di OpenAI. (..) Se il provvedimento d'urgenza [del marzo 2023, ndr] si è chiuso quando la società ha adottato le contromisure necessarie (...) non si è invece interrotta l'analisi degli uffici del Garante”
OpenAI, avrà 30 giorni per comunicare le proprie memorie difensive in merito alle presunte violazioni contestate.

CYBERWARFARE
Hacker pro-Ucraina cancellano dati di un centro russoLa Direzione principale dell'intelligence del Ministero della Difesa ucraino sostiene che degli hacker filo-ucraini abbiano violato il Centro russo per l'idrometeorologia spaziale, noto come "Planeta" (планета), cancellando 2 petabyte di dati, scrive Bleeping Computer.
Planeta è un centro di ricerca statale che utilizza dati satellitari e terrestri per fare previsioni su meteo, clima, disastri naturali. Gli attaccanti hanno dichiarato di aver “distrutto” 280 server e due petabyte di informazioni, tra cui dati meteorologici e satellitari, oltre a "ricerche uniche".
"Il lavoro dei supercomputer - ciascuno del valore di 350.000 dollari - è stato paralizzato e non può essere completamente ripristinato", hanno affermato gli attaccanti, riferisce The Record.
Secondo l’intelligence ucraina, ad attaccare Planeta - che offrirebbe servizi anche ai militari - è stato un gruppo di cyber volontari che va sotto il nome di BO Team (A quanto pare non così noto fino ad ora).

CYBERCRIME
Ragazzini presi di mira da sextortion

La sextortion di tipo finanziario è il crimine in più rapida crescita che prende di mira ragazzini giovanissimi in Nord America e in Australia, con un'impennata del 1.000% negli ultimi 18 mesi, sostiene un report del Network Contagion Research Institute (Rutgers University). Una tendenza che sarebbe suffragata anche dalle parole del direttore dell'FBI Christopher Wray, il quale, in un'audizione davanti al Congresso Usa del dicembre 2023, ha denunciato come la sextortion  sia "una minaccia in rapida crescita" e le vittime adolescenti "non sanno a chi rivolgersi".

In cosa consiste la sextortion lo spiega lo stesso report. I criminali informatici utilizzano falsi account sui social media per costringere le vittime, in questi casi quasi tutti ragazzi, a condividere una foto esplicita. Non appena il criminale riceve la foto, minacciano di esporla agli amici, alla famiglia e ai follower della vittima, a meno che non venga chiesto un riscatto.
Secondo il report di Network Contagion, quasi tutte le sextortion finanziarie che hanno come obiettivo i minori oggi sarebbero direttamente collegate a un gruppo di criminali informatici distribuito nell'Africa occidentale e chiamato Yahoo Boys. Le vittime sono principalmente minori e giovani adulti di lingua inglese su Instagram, Snapchat e Wizz. L'aumento dei casi negli ultimi 18 mesi sarebbe il risultato diretto di una estensione della rete degli Yahoo Boys, che hanno reclutato altri criminali. E che hanno concentrato gli attacchi su scuole superiori, squadre sportive giovanili e università, tempestati di account falsi, con cui portare avanti varie tattiche di social engineering. Vedi anche NBC.

RANSOWMARE
I pazienti della sanità più danneggiati dai ransomware

L’impatto psicologico degli attacchi ransomware è significativamente trascurato

Scrivono gli autori (neretti miei): “Sebbene il danno alla reputazione derivante da un attacco ransomware sia una valida preoccupazione per alcune aziende, in particolare per quelle i cui clienti si aspettano un livello di privacy più elevato (come i clienti di servizi legali o finanziari), il pericolo di un danno alla reputazione è spesso sopravvalutato dalle vittime. Allo stesso modo, l'impatto temuto di dati esfiltrati per causare ulteriori danni attraverso frodi finanziarie o altri reati non è stato confermato dagli intervistati. Al contrario, i dati delle interviste hanno mostrato che i gruppi già vulnerabili, come i beneficiari di sussidi o i pazienti della sanità, sono colpiti in modo sproporzionato dai danni causati dal ransomware”.
In conclusione, scrivono gli autori, le risposte governative agli attacchi di ransomware devono concentrarsi su come prevenire i danni alla società.