Rispetto ad altri approcci per identificare i contenuti generati dall'AI, “i watermark sono accurati e più resistenti alla cancellazione e alla contraffazione, ma non sono infallibili: un soggetto motivato può degradare i watermark nei contenuti generati dall'AI”, dice il report.

Inoltre lo sviluppatore di un modello di AI può creare strumenti per rilevare solo il proprio watermark, quindi per l'identificazione efficiente di tutti i contenuti “marchiati” è necessario un coordinamento fra le diverse aziende. Oltre a ciò, ulteriori considerazioni pratiche riguardano le complicazioni con i modelli open-source, le implicazioni sulla privacy e la garanzia di servizi di rilevamento dei watermark affidabili e accessibili. Per questi motivi, un obiettivo realistico è rendere generalmente più difficile aggirare i watermark per i modelli più popolari, dando per scontato che non esistano soluzioni universali o definitive.

La questione è al centro dell’interesse di un po’ tutti i legislatori. L’AI Act europeo, in fase di ultima definizione tecnica dopo il trilogo politico di dicembre, impone ai fornitori e agli utenti di sistemi di AI una serie di obblighi per consentire il rilevamento e la tracciabilità dei contenuti generati da questa tecnologia. “L'attuazione di questi obblighi richiederà probabilmente l'uso di tecniche di watermarking”, scrive in un briefing il Parlamento europeo, altresì consapevole delle attuali limitazioni tecniche, ma comunque orientato a fare sì che lo sviluppo di strumenti di watermarking e di regole standard siano una priorità.

La Cina ha già adottato delle misure per vietare immagini generate dall'AI senza watermarking. Il G7 ha chiesto alle aziende di sviluppare meccanismi di autenticazione e provenienza dei contenuti.  L'amministrazione statunitense è stata incaricata di sviluppare meccanismi di etichettatura, in modo che gli utenti finali siano in grado di capire quando un contenuto sia o meno generato dall'AI. Infatti l’ordine esecutivo della Casa Bianca sull'AI ha incaricato il Dipartimento del Commercio di sviluppare standard per identificare l’origine di contenuti ed etichettare quelli sintetici (ne avevo scritto in newsletter). Infine, in occasione del vertice britannico sulla sicurezza dell'AI, sette aziende leader nel settore hanno annunciato delle policy aziendali per identificare materiale generato dall'AI.

Fatte queste premesse, è proprio sulla fattibilità tecnica che si concentra il rapporto. Che individua le metodologie principali.
“I quattro approcci più importanti sono il watermarking (nelle sue varie forme), che consiste nell'incorporare un pattern (schema) identificabile in un contenuto per tracciarne l'origine; la provenienza del contenuto, che incorpora e mantiene in modo sicuro le informazioni sull'origine del contenuto nei suoi metadati; i rilevatori (detector) retrieval-based, in cui tutti i contenuti generati dall'AI sono archiviati in un database che può essere interrogato per verificarne l'origine; e i rilevatori post-hoc, che si basano su modelli di apprendimento automatico per identificare schemi impercettibili ma sistematici nei contenuti generati dall'AI che li distinguono da quelli creati dall'uomo”.

Le complicazioni e le sfide non sono poche. Le tattiche più comuni per ingannare i rilevatori di testo generato dall'AI, ad esempio, includono la parafrasi o la traduzione in una lingua diversa e la successiva conversione nella lingua desiderata. Contro i rilevatori per immagini, le tattiche di evasione più comuni prevedono il ritaglio, sottili alterazioni dei pixel, filtri o sovrapposizioni. In generale, individuare testi generati dall'AI è più difficile rispetto ai contenuti audio-visivi. E particolarmente problematica è l’individuazione di contenuti dove ci sia una componente mista, umana e AI, specie laddove avvenga una “collaborazione” avanti e indietro con un modello.

Tra gli approcci più avanzati di watermarking, ci sono quelli basati sull'apprendimento automatico (machine learning), soprattutto per il watermarking delle immagini. I ricercatori di Meta utilizzano un modello di apprendimento automatico per incorporare un watermarking nascosto basato su una "chiave" che può essere successivamente rilevata da un altro modello di apprendimento automatico. Nei loro esperimenti, la tecnica funziona bene sulle immagini non modificate, ma la precisione diminuisce con le modifiche.
“Il nostro metodo di Stable Signature integra il watermarking nel processo di generazione, senza alcuna modifica all'architettura. Regola il modello generativo pre-addestrato in modo tale da che tutte le immagini prodotte nascondano un determinato watermark”, scrivono gli autori nel paper.
Anche Google ha annunciato uno strumento sperimentale per il watermarking delle immagini (SynthID) che utilizza un modello di apprendimento automatico.
“SynthID utilizza due modelli di deep learning - per il watermarking e l'identificazione - che sono stati addestrati insieme su un set di immagini diverse”, scrive Google. “Il modello combinato è ottimizzato su una serie di obiettivi, tra cui la corretta identificazione del contenuto col watermark e il fatto di rendere quest’ultimo sempre più impercettibile attraverso il suo allineamento visivo al contenuto originale”.

Altra tecnica interessante è il "watermarking statistico", in cui invece di incorporare uno schema (pattern) chiaramente definito nel testo o nel contenuto audio/video, si incorpora una disposizione statisticamente insolita di parole/pixel/suoni. Il problema in questo caso è che si rischia di degradare la qualità del contenuto prodotto. E comunque esistono già ricerche che studiano i modi per cancellare i watermark statistici per i testi.

Sfortunatamente - scrive l’autore del report - non esiste uno strumento di rilevamento dell'AI tecnicamente valido che risponda in modo soddisfacente a tutte queste considerazioni.

In conclusione, scrive il report, “un obiettivo ragionevole sarà quello di innalzare la barriera alla generazione di contenuti senza watermarking e di garantire che una frazione significativa di contenuti generati dall'AI incorpori un watermark, pur riconoscendo che il rilevamento di tutti i contenuti generati dall'AI sarà infattibile. Pertanto, gli strumenti di rilevamento dovrebbero essere considerati come parte di un approccio a più livelli e specifico per il contesto”.

ELEZIONI E AI
OpenAI corre ai ripari in vista dell’anno delle elezioni
A questo proposito, ovvero sul tema dell’identificazione di contenuti generati da AI, si muove anche OpenAI, in vista delle elezioni che avverranno nel 2024 in vari Paesi. L’organizzazione ha infatti annunciato che all’inizio di quest’anno implementerà un sistema per aumentare la trasparenza sull’origine e storia delle immagini generate da DALL-E 3, abbracciando una tecnica che codifica i dettagli sulla provenienza dei contenuti attraverso la crittografia (si tratta delle credenziali digitali della Coalition for Content Provenance and Authenticity - C2PA). E di stare testando anche un altro un sistema di identificazione della provenienza (provenance classifier) di immagini per individuare quelle generate da DALL-E.

MERCATO
Cosa vuole ottenere il GPT store di OpenAI
Intanto OpenAI ha lanciato il suo nuovo GPT Store, che consentirà agli utenti business e ChatGPT Plus (la versione a pagamento) di condividere e interagire con agenti AI personalizzati (chiamati GPT), pensati per dei compiti specifici.
Perché questo lancio? Secondo il professore David Karpf su The Atlantic, “il problema per OpenAI è che la maggior parte dei 100 milioni di utenti settimanali di ChatGPT si affidano alla versione gratuita”, con costi vertiginosi per mantenere ChatGPT, a detta del CEO Sam Altman. “A breve termine, più sviluppatori esterni OpenAI sarà in grado di attirare, con più GPT personalizzati per offrire [un po’ di tutto] (…), maggiore sarà la possibilità che gli utenti gratuiti scelgano di iscriversi al servizio a pagamento”.

Sulla stessa linea il commento di Ben Dickson (TechTalks) secondo il quale OpenAI deve vedersela con la crescita dei modelli open-source, che stanno rapidamente guadagnando terreno in qualità, oltre a essere più flessibili e veloci da addestrare. Di qui la necessità di provare a ricostruire un vantaggio infrastrutturale di qualche tipo, ad esempio creando un effetto di rete attorno a ChatGPT. E qui entra in scena il GPT Store.
“L'idea di base è che, con una massa critica sufficiente, gli utenti rimarranno fedeli a ChatGPT e altri utenti si iscriveranno al piano ChatGPT Plus per accedere al GPT Store”, scrive l’autore. Allo stesso modo gli sviluppatori saranno attratti dalla piattaforma, dove i loro assistenti saranno esposti a un maggior numero di utenti.
Intanto il GPT Store contiene già diversi chatbot nelle vesti di “fidanzata AI”, rileva Quartz. Ma questo genere di bot sarebbero contrari alla policy di utilizzo (usage policy) di OpenAI. 

GPS
Finlandia e Svezia segnalano interferenze GPS nel Baltico
Secondo l'Agenzia finlandese per i trasporti e le comunicazioni (Traficom), intorno a Capodanno sono stati osservati dei disturbi nei segnali di navigazione GPS (Global Positioning System) nella Finlandia orientale e sudorientale. Le interruzioni sono state segnalate dal sito GPSjam, che fornisce informazioni sulle interferenze GPS.
Ma cosa vuol dire? “Probabilmente qualcuno sta disturbando (jamming) il GPS - ha twittato John Wiseman, amministratore del sito - In questa zona, di solito si pensa che sia di origine russa. Potrebbe trattarsi di un’attività di disturbo o di un'esercitazione militare. Di solito non è un problema per gli aerei, ma è fastidioso e toglie un livello di sicurezza. Le persone a terra probabilmente non sono nemmeno interessate”.
Traficom ha rassicurato sul fatto che i disturbi del GPS non avrebbero influito sulla sicurezza dei voli, perché gli aerei sono dotati di sistemi di navigazione alternativi, scrive il sito della tv pubblica finlandese Yle.

Un ricercatore noto online con lo pseudonimo di Markus Jonsson sostiene di aver individuato l’origine geografica delle interferenze esaminando i dati dei voli in cui sono stati segnalati problemi GPS, e arrivando a tre possibili località: Kaliningrad, Polonia o Danimarca, riferisce il giornale finlandese Iltalheti. Ricordiamo che Kaliningrad è il nome della città capoluogo dell’omonima oblast’ della Federazione russa, exclave tra la Lituania e la Polonia.
Anche Jukka Savolainen, direttore della rete del Centro europeo di eccellenza per il contrasto alle minacce ibride in Finlandia, ritiene molto probabile che dietro le interferenze ci sia la Russia, riferisce il sito della tv pubblica estone.

L’attività è continuata a gennaio, riporta la tv pubblica svedese SVT. “Tra il 18 e il 26 dicembre, abbiamo ricevuto un totale di circa cinque segnalazioni”, ha affermato Johan Westin, ispettore di volo dell'Agenzia svedese dei trasporti. I disturbi si sono verificati soprattutto di notte nella Svezia meridionale e nel Mar Baltico sudorientale. 
Il Servizio di sicurezza e intelligence militare Must svedese sta analizzando gli incidenti, iniziati in concomitanza con l'annuncio di un'esercitazione da parte della Marina russa a Kaliningrad, con l'obiettivo di disturbare "la navigazione e le telecomunicazioni nemiche".
Anche l'Autorità norvegese per l'aviazione civile, LFV, sta seguendo la vicenda.