Dic 05, 2023 Minacce, News, RSS, Vulnerabilità

---

Che i sistemi di intelligenza artificiale fossero vulnerabili a diverse tecniche di attacco lo sapevamo già, ma a quanto pare la situazione è peggiore di quanto immaginavamo. Alcuni ricercatori della North Carolina University hanno approfondito la portata degli “adversarial attacks”, ovvero degli attacchi volti a manipolare i dati in input delle reti neurali per alterare l’output e generare contenuti potenzialmente dannosi, scoprendo che queste vulnerabilità sono molto più comuni di quanto si credeva.

Prendendo come esempio i sistemi di riconoscimento delle immagini nei veicoli a guida autonoma, un attaccante potrebbe attaccare uno sticker su uno Stop impedendo al modello di riconoscere il segnale.

Tianfu Wu, co-autore della ricerca, ha spiegato che nella maggior parte dei casi, anche se si apportano modifiche ai segnali, un’IA addestrata adeguatamente riesce comunque a riconoscere le indicazioni; ma “se il sistema ha una vulnerabilità e un attaccante la conosce, può trarne vantaggio e provocare incidenti” ha affermato Wu. Il problema è che le vulnerabilità sono molto frequenti nei sistemi di IA.

Il gruppo di ricercatori ha testato le vulnerabilità delle reti neurali sviluppando QuadAttacK, un programma che sfrutta la programmazione quadratica per comprendere come un sistema di IA prende le decisioni sulla base dei dati di input e trovare il modo di manipolarli per compromettere il sistema.

Nei test i ricercatori hanno messo alla prova quattro reti neurali tra le più utilizzate al mondo. “Siamo rimasti sorpresi nel constatare che tutte e quattro queste reti erano molto vulnerabili agli adversarial attacks” ha affermato Wu, sottolineando di essere riusciti a far mostrare a questi sistemi ciò che volevano nella maggior parte dei test.

Il paper con la ricerca completa sarà presentato ufficialmente il prossimo 16 dicembre in occasione della 37° conferenza sui Neural Information Processing Systems. QuadAttacK sarà disponibile dallo stesso giorno su GitHub per permettere agli sviluppatori di mettere a punto le proprie reti neurali.

---

• adversarial attacks, Intelligenza artificiale, machine learning, QuadAttacK, reti neurali, riconoscimento delle immagini

---

---