Secondo il Financial Times, la guerra cibernetica non sarà più la stessa nell’era dell’intelligenza artificiale.

La vecchia dottrina russa della “maskirovka” (letteralmente, “mascheramento” o “travestimento”) non è più applicabile quando agenti non umani generano incertezza sia per gli attaccanti che per i difensori.

Nell’era dell’Agentic AI, “la guerra cibernetica sta entrando in una fase in cui l’incertezza non sarà più soltanto un’arma dell’attaccante, ma una caratteristica del sistema stesso”, secondo Pierluigi Paganini, analista di cyber security e Ceo Cybhorus.

“Trovo interessante la tesi del Financial Times, perché intercetta uno dei meccanismi che provo a descrivere in Guerre diffuse“, commenta Alessandro Curioni, fondatore di DI.GI Academy. Ecco quale.

Agenti aI all’attacco: i precedenti

Il mese scorso, il governo australiano ha rivelato che alcuni agenti basati sull’intelligenza artificiale avevano violato i suoi sistemi sanitari.

Due settimane prima, Anthropic aveva segnalato che alcuni attori informatici russi stavano utilizzando l’intelligenza artificiale per effettuare ricognizioni, attacchi hacker e furti di dati in modo più economico ed efficiente.

Questi e decine di altri attacchi informatici non sono ancora completamente autonomi, ma stanno iniziando a mettere in luce il costo derivante dal delegare il controllo alle macchine.

Per chi si occupa di difesa informatica, gli attacchi informatici autonomi rappresentano una tempesta perfetta, che offusca le intenzioni dell’autore dell’attacco e complica il compito di attribuire la responsabilità alla “mano sulla tastiera” umana.

Tuttavia, l’uso dell’IA crea incertezza anche per l’autore dell’attacco. L’IA adatterà il proprio comportamento in base a ciò che incontra – reti, difese e opportunità – decidendo autonomamente come perseguire un obiettivo fornito dall’uomo.

Questo comportamento potrebbe non essere sempre prevedibile e, ben presto, neppure potrebbe essere sempre controllabile.

La tecnica russa della “maskirovka”: cosa cambia ai tempi dell’AI

Mosca vanta una tradizione nello sfruttare l’incertezza. Nel 1918, i pensatori militari russi integrarono le lezioni apprese durante la prima guerra mondiale sull’elusione della sorveglianza nel concetto più ampio di “maskirovka”. L’inganno crea incertezza nella mente dell’avversario, avvolgendolo nella nebbia riguardo alle intenzioni e alle capacità, per ritardare, confondere e limitare la sua risposta.

Un secolo dopo, questa strategia ritorna, come un fantasma dal passato, spesso nelle operazioni informatiche legate alla Russia.

Storicamente, l’inganno era un atto antagonistico: una parte creava deliberatamente incertezza per l’altra.

“La maskirovka tradizionale produceva intenzionalmente incertezza nell’avversario: chi ingannava conosceva, almeno in teoria, il proprio disegno. Con gli agenti autonomi, l’incertezza diventa bidirezionale: il difensore non sa interpretare con certezza ciò che vede, ma anche l’attaccante può perdere parte del controllo sul modo in cui il proprio obiettivo viene perseguito ovvero un passaggio dall’intento strategico all’attrito sistemico”, spiega Alessandro Curioni.

Tuttavia i sistemi autonomi introducono incertezza in entrambe le direzioni. E non necessariamente in modo intenzionale.

“È questo il punto centrale della riflessione del Financial Times sulla maskirovka russa: con agenti AI capaci di adattare autonomamente le proprie azioni, diventa più difficile capire se ciò che osserviamo sia un’azione deliberata o una conseguenza non prevista“, mette in guardia Paganini.

Chi difende deve tenere conto del comportamento futuro di un sistema autonomo. Invece chi attacca deve valutare i rischi di perdere il controllo su come chi difende potrebbe interpretare il suo comportamento.

Il ruolo dell’incertezza e la logica della deterrenza

La «maskirovka» mirava a trasformare l’incertezza in un’arma per sfruttare una logica di base della deterrenza: un avversario è meno propenso ad agire quando ritiene che il costo di tale azione, compreso il rischio di ritorsione, superi i benefici. Questo non è più un calcolo lineare.

Oggi l’incertezza può modificare la disponibilità ad agire da entrambe le parti.

Questo meccanismo, infatti, “cambia anche la deterrenza. In passato uno Stato poteva attribuire un’operazione, valutarne l’intento e calibrare la risposta. Con l’AI, l’attaccante può delegare decisioni alla macchina, accettando imprevedibilità in cambio di velocità e capacità. Ma lo stesso vale per il difensore: una reazione automatizzata potrebbe amplificare un incidente“, avverte Paganini.

Il rischio maggiore dell’AI nella guerra cibernetica

Per l’attaccante, la perdita di controllo è diventata parte del calcolo. Un’errata interpretazione può rendere più difficile contenere l’escalation.

Quale tipo di Stato (o laboratorio di IA) potrebbe voler correre questo rischio? Un attore che cerchi un esito strettamente controllato potrebbe non voler delegare decisioni di grande portata. Ma chi attribuisce valore a un accesso adattivo e persistente alle reti potrebbe essere disposto ad accettare l’incertezza.

“Nel libro “Guerre diffuse” sostengo che gli effetti del conflitto contemporaneo possono nascere anche dall’interconnessione, dalla fragilità tecnologica e dall’automazione delle decisioni, senza che ogni conseguenza sia stata progettata da una regia centrale“, sottolinea Alessandro Curioni.

La nebbia che emerge dal sistema

Gli attori criminali e quelli sostenuti dallo Stato stanno ora dimostrando la volontà di barattare il controllo con la capacità operativa, sia per lo spionaggio che per il ransomware.

Maggiore è l’autonomia delegata ai sistemi di IA, più difficile potrebbe diventare per i difensori distinguere un’azione involontaria della macchina da un’escalation e per gli aggressori controllare le conseguenze.

La deterrenza oggi deve puntare proprio su questo compromesso.

Immaginiamo uno scenario simile ai recenti attacchi informatici contro l’industria della difesa francese o la rete elettrica polacca, ma in cui l’operatore stabilisca un obiettivo invece di dettare ogni singolo passo.

In una rete, l’IA ruba le credenziali e raccoglie informazioni. In un’altra, individua un sistema connesso e lo sonda per aiutare a mantenere l’accesso.

Un difensore che osserva la seconda operazione non può vedere l’istruzione originale, ma solo attori ostili che si addentrano sempre più nella sua rete.

Il difensore deve decidere: si tratta di spionaggio, di preparazione al sabotaggio o di qualcos’altro? Qual è la risposta appropriata?

Il valore dell’inganno non sta nel nascondere la verità a tempo indeterminato, ma nel farlo abbastanza a lungo da ridurre il margine di tempo a disposizione del difensore per prendere una decisione.

Come rispondere a questa sfida

L’introduzione di sistemi autonomi nello scenario cambia le vecchie regole del gioco.

“Il Financial Times osserva un pezzo particolarmente importante del fenomeno: l’intelligenza artificiale rende ancora più incerta la relazione tra intenzione, azione ed effetto. Il libro ‘Guerre diffuse’ prova invece a collocare quel pezzo dentro un quadro più ampio, nel quale la stessa dinamica attraversa infrastrutture, norme e narrazioni”, avverte Curioni.

Chi inganna non può più essere certo che l’ambiguità che crea rimarrà dall’altra parte.

“La sfida sarà dunque garantire il controllo umano quando la finestra temporale per prendere decisioni si riduce sempre più. Attribuzione e supervisione degli agenti AI saranno centrali per la sicurezza”, conclude Paganini.

In una crisi, ciò potrebbe lasciare entrambe le parti alla ricerca affannosa di una risposta a un’azione di cui nessuna delle due riesce a cogliere il significato.

“La maskirovka non scompare, perché accade qualcosa di più interessante: alla nebbia che qualcuno produce intenzionalmente si aggiunge una nebbia che emerge dal sistema stesso e nella guerra diffusa di solito succede che nessuno controlla completamente la nebbia nella quale tutti stanno combattendo“, mette in guardia Alessandro Curioni.