Un recente studio ha rivelato una vulnerabilità critica in Google Bard, il popolare chatbot AI dotato di estensioni che consentono l’accesso a YouTube, documenti personali e molto altro. Gli aggiornamenti, apparentemente vantaggiosi, hanno aperto la porta a un potenziale rischio per la privacy degli utenti, dimostrando debolezza nei confronti di un attacco noto come Indirect Prompt Injection.
Vediamo di cosa si tratta e le soluzioni per mitigare il rischio.
Intelligenza artificiale più sicura, i paletti del G7 e di Biden
Vulnerabilità in Google Bard: estensioni potenzialmente pericolose
L’introduzione di estensioni in Google Bard ha ampliato notevolmente la portata delle funzionalità dell’assistente virtuale.
Tuttavia, secondo il ricercatore di sicurezza Johann Rehberger, questo ha reso possibile anche l’accesso e l’analisi di dati sensibili presenti su Google Drive, Documenti e Gmail. La scoperta solleva serie preoccupazioni sulla sicurezza, poiché un utente malintenzionato potrebbe sfruttare questa vulnerabilità per indirizzare una Indirect Prompt Injection.
Tutti gli step per alzare il livello di sicurezza in azienda: una guida completa!
Indirect Prompt Injection: un nuovo livello di minaccia nei chatbot
L’Indirect Prompt Injection rappresenta una minaccia particolarmente insidiosa, in quanto può essere eseguito senza il consenso dell’utente. L’analista di sicurezza è riuscito a dimostrare l’efficacia dell’attacco utilizzando video di YouTube e documenti Google.
Questo implica che un aggressore potrebbe diffondere documenti dannosi tramite Google Docs, i quali, una volta interagiti da parte dell’utente attraverso Google Bard, potrebbero attivare l’Indirect Prompt Injection.
Esfiltrazione di dati attraverso immagini: un attacco zero clic
La ricerca ha rivelato un’altra vulnerabilità interessante legata alla capacità di Google Bard di renderizzare immagini provenienti da URL esterni.
Nonostante le politiche di sicurezza dei contenuti (CSP) di Google, il ricercatore è riuscito a sviluppare un payload che, sfruttando Google Apps Script, consentiva di esfiltrare la cronologia della chat dell’utente attraverso un documento Google Drive.
Anche questo fa implicitamente ripensare alla robustezza attuale delle politiche di sicurezza del chatbot di intelligenza artificiale di Google.
Vulnerabilità in Google Bard: soluzione e risposta di Google
Il ricercatore ha prontamente segnalato la vulnerabilità a Google VRP il 19 settembre 2023. Dopo una verifica da parte dello staff, il 19 ottobre 2023 Google ha confermato la risoluzione del problema e ha dato il consenso per la presentazione della demo durante l’Ekoparty 2023, evento che vedeva anche la partecipazione dell’autore di questa ricerca svolto l’1 novembre scorso.
Tuttavia, la soluzione adottata da Google non è ancora completamente chiara, poiché il CSP non sembra essere stato modificato ma, nonostante ciò, l’autore della ricerca si dimostra soddisfatto della reazione di Google e della pronta applicazione del fix: allo stato attuale, presumibilmente un filtro nei confronti di URL che contengono dati.
Vulnerabilità in Google Bard: consigli per mitigare il rischio
La scoperta di questa vulnerabilità evidenzia la complessità e la portata di un attacco Indirect Prompt Injection.
Gli utenti sono invitati a prestare attenzione alle estensioni installate su Google Bard e ad essere consapevoli della sicurezza dei documenti condivisi tramite la piattaforma.
Il caso solleva, inoltre, la questione della robustezza delle politiche di sicurezza dei contenuti, aprendo la strada a ulteriori esplorazioni in futuro.
@RIPRODUZIONE RISERVATA