#INNOVAZIONE E TECNOLOGIA
di ANTONIO TETI
ABSTRACT Nel XXI secolo, l’intelligenza artificiale (IA) ha assunto un ruolo centrale in numerosi ambiti della società, dalla sanità all’economia, fino ad arrivare al campo più sensibile della sicurezza nazionale. Le Agenzie d’intelligence di tutto il mondo stanno adottando soluzioni basate sull’IA per potenziare le loro capacità analitiche, predittive e operative. L’obiettivo è quello di migliorare l’efficacia delle operazioni, ridurre i tempi di reazione e anticipare le minacce con maggiore precisione. Tuttavia, l’utilizzo dell’IA in questo contesto pone anche una serie di questioni etiche, legali e strategiche di grande rilevanza.
L’introduzione dell’intelligenza artificiale (IA) nella Human Intelligence (Humint), che si basa sull’interazione diretta tra esseri umani, può apparire controintuitiva; nondimeno, consentirebbe alcuni sviluppi di particolare interesse. Gli algoritmi d’IA, per esempio, analizzerebbero il linguaggio naturale nelle comunicazioni tra agenti e fonti per rilevare incongruenze, emozioni, stress o segnali di disinformazione. Al tempo stesso predirebbero comportamenti umani attraverso l’utilizzo di piattaforme di machine learning, costruendo, per esempio, profili psicologici dinamici basati su interazioni, storie pregresse e pattern comportamentali. L’automazione nella gestione delle fonti grazie all’utilizzo del Natural Language Processing (Nlp) multilingue migliorerebbe sostanzialmente l’efficienza delle reti e dell’analisi dei dati provenienti da contesti culturali diversi.
L’IA, quindi, non andrebbe a sostituire l’intelligence officer, ma lo supporterebbe nell’analisi dei dati e nell’identificazione delle decisioni migliori da assumere, pur con il rischio di creare una sorta di dipendenza da valutazioni automatizzate che potrebbero soffrire di bias algoritmici. Questi ultimi, identificabili come dei pregiudizi, spesso invisibili e non intenzionali, comprometterebbero gravemente l’affidabilità delle operazioni d’intelligence, con ripercussioni che andrebbero dalla discriminazione sistemica all’errore strategico. Essendo delle distorsioni nei risultati prodotti da sistemi automatizzati, causati da dati di addestramento imperfetti, decisioni di progettazione dei modelli o modalità d’interpretazione dei risultati, i bias algoritmici potrebbero derivare anche da: dati storici sbilanciati (per esempio, sorveglianza storicamente più intensa su determinate comunità); scelte d’ingegneria dei dati che riflettono pregiudizi culturali o politici; oppure da una mancanza di trasparenza nei modelli d’IA che impedisce di comprendere le logiche decisionali.
Gli effetti dei bias nelle operazioni d’intelligence potrebbero dare luogo a falsi positivi e falsi negativi. Un algoritmo distorto potrebbe identificare erroneamente individui innocenti come potenziali minacce (falsi positivi), oppure non segnalare soggetti realmente pericolosi (falsi negativi). Questo comprometterebbe le valutazioni sul piano della sicurezza nazionale o condurrebbe a ingiustizie gravi, come arresti immotivati o sorveglianza ingiustificata. Inoltre, se i dati usati per addestrare un algoritmo riflettono stereotipi etnici, religiosi o culturali, il sistema perpetuerebbe pratiche discriminatorie. Le operazioni rischierebbero così di prendere di mira specifici gruppi sulla base di caratteristiche irrilevanti. Di conseguenza, l’emergere di bias nelle tecnologie usate per la sicurezza eroderebbe la fiducia dei cittadini, e soprattutto della politica, nei confronti delle istituzioni governative, generando tensioni sociali e delegittimando le autorità. Analisi basate su dati distorti porterebbero a valutazioni errate delle minacce, con conseguenti errori nella definizione delle priorità operative, allocazione delle risorse e formulazione di politiche di sicurezza.
Sono diversi gli episodi che hanno già messo in luce i pericoli concreti del bias algoritmico. In ambito militare, sistemi automatizzati per l’identificazione di bersagli hanno mostrato livelli preoccupanti di errore quando impiegati in contesti multiculturali. Anche nei sistemi di sorveglianza predittiva, come quelli utilizzati da alcuni governi per monitorare potenziali minacce terroristiche, sono emerse criticità legate alla sovra-rappresentazione di determinate minoranze.
Vale come esempio SkyNet, un sistema sviluppato dalla National Security Agency (Nsa) che analizza le informazioni dei contenuti veicolati dai dispositivi mobili per individuare i possibili legami con reti terroristiche, utilizzando metodi simili a quelli del marketing predittivo. Fortemente criticato per un tasso significativo di falsi positivi, è stato sottoposto ad alcuni studi che hanno indicato che se un misclassification rate dello 0,008% potrebbe risultare accettabile per una pubblicità, certamente non lo è in contesti d’intelligence e in quelli militari. Un altro esempio è quello riferibile ad alcuni giornalisti, come Ahmad Zaidan di Al Jazeera, ingiustamente identificati dal sistema come personaggi sospetti.
Un’altra dimostrazione di errata analisi condotta da piattaforme d’IA è riferibile all’uso di quest’ultima in alcune operazioni di bombardamento effettuate durante il conflitto israelo-palestinese. L’Israeli Defence Force (Idf) ha adottato alcuni sistemi basati su questa tecnologia: The Gospel seleziona gli obiettivi e Lavender classifica le potenzialità delle milizie durante le operazioni nella Striscia di Gaza. Il primo è un sistema sviluppato dall’Unità 8200 dell’Idf e analizza dati di sorveglianza (immagini prodotte da droni, intercettazioni, segnali) per individuare automaticamente potenziali obiettivi (edifici, postazioni, individui). Le sue capacità di analisi vengono usate per creare fino a 100 target al giorno rispetto ai circa 50 l’anno prodotti manualmente nei conflitti precedenti. Sembra tuttavia che il criterio di classificazione non-target non risulti sempre affidabile, un aspetto potenzialmente in grado di generare rischi sul piano della corretta identificazione degli obiettivi. Lavender è un database IA che valuta decine di migliaia di profili di uomini palestinesi: circa 37mila sono stati inseriti come «legati a Hamas o Jihad Islamica». Il sistema ha dichiarato un’accuratezza stimata del 90%: ciò implica circa 3700 potenziali errori nei nomi inclusi fra gli obiettivi.
Anche sul piano della facial recognition, in ambito sia civile sia di polizia, i casi di bias sembrano numerosi. Può valere come esempio il caso di Nijeer Parks, fermato ingiustamente dopo un mismatch in New Jersey, uno dei tre casi simili che hanno coinvolto uomini di colore negli Stati Uniti. Il «Washington Post», in un articolo del 19 dicembre 2019, ha documentato arresti basati solo su corrispondenze biometriche, con errori amplificati sempre tra persone di colore. Anche una sperimentazione analoga condotta in Gran Bretagna dall’organizzazione apartitica Big Brother Watch nel 2018 ha rivelato errori fino al 98%. Questi “abbagli” sono simili agli errori di invisible targeting compiuti da algoritmi militari.
I meccanismi di bias algoritmico possono generare danni irreparabili sia in ambito intelligence che militare. L’integrazione dell’IA senza adeguati controlli può quindi produrre: l’amplificazione di errori umani e dati distorti; la riduzione della catena umana e del controllo critico; l’aumento del rischio di produrre vittime collaterali, discriminazioni e ingiustizie.
I programmi di drone targeting (SkyNet) e l’utilizzo di piattaforme d’IA per il riconoscimento facciale da parte delle Forze dell’ordine testimoniano come i bias algoritmici possono rappresentare un serio pericolo finanche per gli stessi utilizzatori. Possono creare una catena di decisioni automatizzate in cui ogni errore diventa più veloce, più frequente e oltremodo invisibile. Nei contesti d’intelligence, sicurezza e polizia, ciò rende urgente non solo la mitigazione tecnica, ma anche garanzie legali, trasparenza e responsabilità continua.
SIGINT E IA: IL BINOMIO PERFETTO
La Signals Intelligence (Sigint) è una tecnica che comprende la raccolta e l’analisi di segnali elettronici, comunicazioni e dati elettromagnetici. Le sue principali categorie sono: la Communications Intelligence (Comint) che riguarda le intercettazioni di chiamate, email, messaggi; l’Electronic Intelligence (Elint) atta al rilevamento di segnali radar, sonar o militari non verbali; la Foreign Instrumentation Signals Intelligence (Fisint) che monitora segnali legati a test di armi o satelliti. La Sigint è probabilmente il settore più adatto all’integrazione con l’IA data la grande mole di dati intercettati (comunicazioni radio, telefoniche, internet ecc.), potendo classificare milioni di comunicazioni in base a: parole chiave sospette; anomalie sintattiche o comportamentali; frequenze, ritmi o pattern comunicativi. Con l’avvento dell’IA, l’analisi Sigint si è così spostata da un modello umano-centrico a uno ibrido automatizzato in cui l’IA filtra, aggrega e interpreta enormi flussi di dati in tempo reale. A tal proposito l’IA può:
- classificare e prioritizzare velocemente le comunicazioni in base a parole chiave, metadati, contesto e relazioni tra soggetti;
- riconoscere rapidamente pattern di traffico anomali o significativi tramite piattaforme di deep learning che utilizzano reti neurali multistrato. I modelli di machine learning possono collegare segnali sparsi (per esempio, frammenti audio, metadati di cella, registri IP) e costruire una rete semantica che individua nodi critici o anelli deboli in strutture organizzative;
- decifrare segnali criptati con innovative tecniche d’IA quantistica.
L’automazione dell’analisi Sigint consente una reazione più rapida alle minacce e una copertura molto più ampia delle comunicazioni globali. Inoltre, l’utilizzo di tecniche di analisi predittiva permette di stimare le future mosse di un bersaglio in base ai dati storici raccolti, identificando eventuali periodi di attività anomala o finestre di attacco, benché vada riservata, anche in questo caso, la massima attenzione al sovraccarico informativo e alla necessità di una supervisione umana.
TECHINT E IA: L’INTELLIGENZA DELLE MACCHINE
La Technical Intelligence (Techint) è l’intelligence derivante dall’analisi tecnica dei dati relativi a equipaggiamenti e/o strumenti (armi, radar, segnali elettronici o malware) raccolti da sistemi Sigint o dispositivi sul campo. Può comprendere: l’Elint (intercettazioni con radar o sonar); la Telemetry Intelligence (Telint), cioè la telemetria di armamenti o satelliti; e il reverse engineering (analisi di sistemi catturati).
L’integrazione tra IA e Techint, pure in questo caso, condurrebbe all’automazione del processo di analisi dei dati, generando un insight dei sistemi nemici o delle loro vulnerabilità. In questo ambito, l’IA può essere utilizzata per:
- analizzare immagini satellitari e dati geospaziali con computer vision e algoritmi di riconoscimento;
- effettuare reverse engineering digitale attraverso simulazioni IA e modelli predittivi;
- individuare vulnerabilità in sistemi complessi, anche tramite tecniche di reinforcement learning.
I vantaggi derivanti dall’utilizzo dell’IA sono riconducibili alla rapida e più precisa valutazione delle capacità tecnologiche avversarie per mezzo dell’estrazione automatica d’indicatori tecnici e dell’utilizzo della computer vision e del Nlp su immagini, metadati e documenti tecnici, in quest’ultimo caso per estrarre indicatori di compromissione (Indicator of Compromise, Ioc), hash di malware, configurazioni di rete, caratteristiche di radar, droni, sistemi di radiofrequenza.
I sistemi d’IA permetterebbero altresì il collegamento tra Techint, Sigint e Imagery Intelligence (Imint), ad esempio per associare un oggetto tecnico catturato (un transponder di droni) a un dato Sigint precedente, migliorare la comprensione contestuale e, di conseguenza, automatizzare la catalogazione e l’analisi di armi o dispositivi, avendo così l’immediata identificazione delle migliori decisioni tattiche da assumere.
VHUMINT E IA: UNA NUOVA FRONTIERA PER L’IA
La Virtual Humint (Vhumint) è una sottocategoria della Humint che si sviluppa nell’ambiente digitale, in particolare attraverso le interazioni online dirette (chat, forum, social), l’osservazione comportamentale su piattaforme digitali, la creazione e la gestione d’identità virtuali (sock puppets) per infiltrarsi in gruppi ostili. È sostanzialmente una metodologia di raccolta informativa che si basa sulla conduzione di attività relazionali online. I componenti principali della Vhumint sono:
- interazione digitale undercover, ovvero operatori (umani o assistiti da IA) che interagiscono con obiettivi o con un target group tramite social network (Telegram, Facebook, TikTok, Instagram, X, Discord), ambienti multiplayer, metaversi o dark web, commenti, messaggi diretti, contenuti mirati;
- tecniche d’infiltrazione tramite identità opportunamente costruite (fake profiles);
- creazione di avatar coerenti con linguaggio, ideologia e background credibili.
- la creazione d’identità digitali complesse e credibili per operazioni sotto copertura in ambienti virtuali;
- l’interazione automatica con target attraverso chatbot evoluti capaci di adattarsi linguisticamente e culturalmente;
- la raccolta di dati open-source (Osint) in tempo reale da social media, forum, dark web.
Se il confine tra realtà e simulazione si fa sempre più sottile, come noto, le operazioni di Vhumint basate sull’IA devono basarsi su un nuovo approccio etico, soprattutto per quanto riguarda la manipolazione e l’inganno.
IMPLICAZIONI STRATEGICHE E ORGANIZZATIVE PER LE AGENZIE D’INTELLIGENCE
L’introduzione dell’IA produrrà impatti profondi e a diversi livelli sulle Agenzie d’intelligence. Ad esempio, il connubio tra Sigint, Techint e IA rappresenta un asset particolarmente potente poiché è in grado di estrarre un valore tecnico da segnali e materiali, accelerare l’analisi e rafforzare le decisioni. Ma nel contempo potrebbe trasformarsi in un’arma a doppio taglio: l’uso improprio, guidato da bias, opacità o dati manipolati, può portare a errori operativi, escalation o attacchi su basi tecniche fallaci. Occorre quindi avvalersi di: dataset tecnicamente bilanciati e validati; particolare spiegabilità e auditabilità degli output d’IA; controllo umano robusto e persistente nelle analisi critiche; difesa stratificata per fronteggiare gli inganni tecnici avversari.
Al tempo stesso, le Agenzie devono necessariamente attuare un processo di reingegnerizzazione della propria infrastruttura sui piani:
- strutturale. La necessità di nuove competenze tecniche impone una riformulazione della formazione degli agenti e un’integrazione tra esperti IT e operatori sul campo;
- operativo. Le operazioni diventano più veloci, data-driven e meno dipendenti dall’intuizione umana, ma anche più vulnerabili ad attacchi di contro-IA (adversarial AI);
- etico-legale. L’automazione decisionale genera questioni sulla responsabilità, sulla trasparenza degli algoritmi e sulla legalità delle operazioni transfrontaliere.
Negli ultimi anni si è assistito a una crescente asimmetria tecnologica tra le Agenzie dotate di avanzate risorse d’IA (Usa, Cina, Israele) e quelle di Paesi meno sviluppati, includendo anche quelli europei, un aspetto che sta producendo conseguenze importanti sul piano dell’ampliamento del divario strategico globale. L’IA è destinata a trasformare radicalmente ogni dimensione delle operazioni d’intelligence: dalla raccolta dei dati (Sigint, Techint, Vhumint) alla loro analisi fino al supporto decisionale in tempo reale. Gli algoritmi non sono più solo strumenti ausiliari, ma co-attori operativi nella comprensione e nella gestione del rischio geopolitico, militare, criminale e sociale. Nel prossimo decennio il mondo dell’intelligence assisterà a un’automazione sempre più accentuata, soprattutto negli ambiti della sorveglianza e della profilazione predittiva, oltre che all’integrazione dei domini fisici e digitali, con IA capaci di collegare tracce elettroniche, segnali tecnici, pattern comportamentali e identità virtuali. Anche l’Edge Intelligence (EI), intesa come elaborazione decentralizzata sul campo, subirà un’evoluzione non facilmente prevedibile con applicazioni IA inserite in dispositivi mobili o droni autonomi. Se questi innovativi sistemi adattivi e generativi saranno in grado di simulare scenari di minaccia, elaborare deception strategies e condurre perfino operazioni psicologiche automatizzate, produrranno nel contempo sfide sistemiche e dilemmi etici inediti, come quello del rischio dell’automazione dell’errore e dell’amplificazione dei bias impliciti nei dati, rendendo opache le responsabilità. La possibilità di un collasso del controllo umano, specie nelle decisioni ad alta letalità (kill chain automatizzata), e il potenziale uso malevolo dell’IA da parte di attori statali e non potrebbero produrre anche un’accelerazione alla corsa agli armamenti cognitivi.
Il futuro dell’IA nell’intelligence non è solo questione di efficacia. È una questione di civiltà.