Rasetti

Big Data e sicurezza nazionale

C’è una rivoluzione in corso, la rivoluzione digitale, da cui tutti siamo travolti per lo tsunami d’informazione cui essa dà vita. La quantità di dati che produciamo raddoppia ogni anno: nel 2016 abbiamo generato tanti dati quanti ne erano stati prodotti nell’intera storia dell’umanità fino al 2015. Ogni minuto nel mondo si effettuano centinaia di migliaia di ricerche su Google e di ‘post’ su Facebook, che contengono informazione, la quale rivela cosa facciamo, proviamo e pensiamo: chi siamo. Con lo sviluppo dell’Internet delle Cose entro meno di dieci anni avremo 150 miliardi di dispositivi e sensori, 20 volte più numerosi degli uomini sulla Terra, connessi tra loro e con le persone in un’immensa rete globale. Allora la quantità di dati raddoppierà ogni 12 ore. E tutto potrà, almeno in linea di principio, diventare più ‘intelligente’; presto avremo non solo smart phones ma smart homes, smart factories, smart cities, smart cars; e la domanda è: sapremo noi umani essere più smart?

L’umanità sarà sempre più costituita da individui che, di fatto, non sono semplici esseri umani, ma umani con ‘protesi’ – cellulari, iPhone, laptop… – pezzi di tecnologia che consentono di comunicare, scambiare informazione, accedere a nuove conoscenze, fare operazioni intelligenti in modi nuovi, che estendono a dismisura i sensi, la velocità, la comprensione del mondo circostante. Infatti, in parallelo con la nostra capacità di generare dati, trasmetterli e riceverli, l’intelligenza artificiale (IA) sta compiendo – attraverso l’analisi dei dati e l’abilità nell’estrarne con efficienza il valore – progressi mozzafiato. L’IA non si programma più riga per riga, ma è ormai capace di imparare e automigliorarsi. Sono già attivi algoritmi in grado di riconoscere la scrittura manuale e i pattern, di descrivere il contenuto di fotografie e video, di completare un gran numero di compiti che richiedono intelligenza, meglio degli Oggi il 70% di tutte le transazioni finanziarie è effettuato da algoritmi e il contenuto delle News è, in buona parte, generato automaticamente; e fra breve toccherà alla medicina, alla Pubblica amministrazione, ai trasporti, alle banche…

Tutto questo colloca la rivoluzione digitale allo snodo di tre diverse strade, con caratteristiche e prospettive diverse. La prima: quella digitale è una rivoluzione paragonabile all’invenzione della stampa. Non c’è dubbio che i bit faranno molto più di quanto i caratteri mobili di Gutenberg abbiano fatto in oltre cinque secoli e mezzo in termini di spostamento degli equilibri del potere, di trasferimento della conoscenza dalle mani di pochi a comunità sempre più allargate, di nascita di nuove categorie di attività umane. Sarà avviato un percorso analogo a quello che ha pavimentato la strada che dal Rinascimento, attraverso l’Illuminismo, ci ha portati alla rivoluzione industriale e dai manoscritti su pergamena ci ha fatti arrivare all’Encyclopédie di Diderot e d’Alembert e via via fino a Wikipedia.

Il secondo aspetto è ancora culturale; la scienza dei dati, per antonomasia il digitale e l’IA, la nuova frontiera che fa convergere scienza e tecnologia nel sogno comune di concepire e sviluppare sistemi di calcolo e di manipolazione dell’informazione capaci di eseguire compiti che normalmente richiedono l’intelligenza umana, dopo cinquant’anni di sforzi e di miliardi di dollari spesi in ricerca, stanno infine riuscendo a decifrare il codice (crack the code) dell’intelligenza umana, quanto basta per trasferirne una parte alle macchine. Significa che l’uomo sarà spodestato dalla sua posizione di supremazia nella società? Certamente no: il cervello umano non è riproducibile da nessuna macchina che non sia un cervello umano molto più evoluto. L’irresistibile leggerezza dell’IA è, in realtà, nel groviglio composito della nostra intelligenza con i nostri valori di uomini, perché i metodi dell’intelligenza artificiale sono lo strumento naturale per affrontare i sistemi complessi.

Il terzo snodo è di natura sociale e dunque etica. È incontrovertibile che mentre questi progressi non potranno che portare in prospettiva a una lunga epoca di prosperità, benessere e tempo libero, di conoscenza senza precedenti, il transitorio a questo stato felice può essere lungo e brutale   se non avremo la forza di adattare a esso la nostra economia, le politiche sociali, i comportamenti collettivi.

L’alternativa è una nuova forma di luddismo di reazione al digitale, che potrebbe – come quello nell’Inghilterra del XVIII secolo, seguito alla rivoluzione industriale indotta dall’invenzione della macchina a vapore – portare a un vero e proprio bagno di sangue. Davvero rischiamo un periodo di drammatici scontri sociali a livello globale, perché in pochi anni oltre la metà dei lavori che oggi conosciamo non saranno più svolti da uomini ma da macchine dotate di IA, e non solo lavori manuali, ma lavori che comportano lo sviluppo di processi intelligenti. Sarà una grande crisi, non della classe operaia ma dei colletti bianchi.

Proprio l’innovazione digitale sta all’origine della più aggressiva delle diseguaglianze; quella che spinge oggi il ceto medio alla protesta, al populismo, all’intolleranza (gli «scartati» di papa Francesco). Occorreranno investimenti enormi e globali su istruzione, creatività, riqualificazione degli espulsi dall’asset produttivo nonché nuove modalità di formazione, che non siano limitate ai giovani ma si estendano a chi ha un patrimonio ancora condivisibile di esperienza professionale alle spalle. Non si tratta semplicemente di ridistribuire la ricchezza, ma di creare nuove fonti di conoscenza, per generare nuovo ‘sapere’ e reinserire nella macchina sociale chi è stato espulso dal mondo del lavoro. E creare nuovo lavoro con nuovi lavori.

I grandi progressi delle tecnologie dell’informazione (IT) trasformeranno le società e le relazioni fra cittadini e governanti; l’impatto dell’automazione, della robotica e dell’intelligenza artificiale sulle economie, sulla distribuzione del lavoro e della ricchezza e, soprattutto, sull’equità sociale farà sì che i Big Data diventino presto un fattore chiave della competizione e dello sviluppo, ponendosi alla base e alla guida di nuove ondate di crescita della produttività e dell’innovazione. Tutto ciò, però, solo a condizione che le corrette politiche decisionali e i necessari incentivi vengano messi in opera con equilibrio. La rivoluzione digitale influirà sul modo in cui si distribuisce il potere nel mondo. Siamo preparati ad affrontare il significativo cambio delle regole che strutture cardine di società, economia e politica vedranno fra oggi e il 2035? Anche la scienza non sarà esente da queste domande e dovrà trovare la sua collocazione in tale quadro articolato e difficile, per non mancare al suo ruolo di guida, etica e concettuale, di una società sempre più smarrita di fronte ai contrasti che la tecnologia, spesso, pare più creare che dirimere.

Nei prossimi 50 anni i supercomputer sorpasseranno di ordini di grandezza, in molti settori, le capacità umane, potenziandole e aumentandole al di là di quanto ora riusciamo a immaginare. E quella dei Big Data – oggi considerata una rivoluzione dell’Information Technology, la quinta dopo i grandi computer, i pc, internet e il web 1.0, i cellulari e il web 2.0, una rivoluzione dovuta allo tsunami di dati che sempre più travolge questo mondo dove tutto quello che facciamo lascia una traccia digitale – ci farà sorridere, quando il numero di byte generati sarà più grande di quello di atomi e molecole nella materia del mondo che ci circonda.

L’ardua sfida dei Big Data è riuscire a estrarre la grande quantità d’informazione che fluisce dentro e fuori dai sistemi complessi con cui conviviamo ed entro cui viviamo. Anche se essi hanno una varietà di caratteristiche diverse; se, ad esempio, sono relativi alla scienza, ben strutturati e controllati, o alla società, più difficili da analizzare ma capaci di fornire una vera e propria tomografia della società stessa e rendere possibili ‘predizioni’ fino a ora quasi impensabili; quello di trasformare i dati in informazione; l’informazione in conoscenza e, infine, la conoscenza in ‘sapere’ è uno dei più difficili problemi mai affrontato dalla scienza. È il data mining; estrarre valore dai dati, come un minatore estrae minerali preziosi dal terreno.

C’è un aspetto inquietante nel quadro che sto dipingendo: il digital warfare. Il termine fa riferimento alle nuove strategie, virtuali, di warfare – credo di usare il termine inglese per una sorta di pudore; mi spaventa dire «guerra» – che vedono il coinvolgimento e l’intreccio delle nuove tecnologie IT in sempre più profonde e drammatiche implicazioni sociali e politiche.

Computer hacking (chi non ha sentito parlare di hacker e li ha guardati magari con simpatia, immaginando ragazzini un po’ discoli, ma con un’intelligenza molto vivace, capaci di mettere in crisi, giocando, i giganti della tecnologia e della politica) così come data corruption sono ormai tecniche centrali del digital warfare. Anche nell’era digitale, per i conflitti – quelli veri, dove nessuno gioca – il cervello conta più dei muscoli. Nel campo di battaglia digitale tuttavia, sia esso militare o civile, l’IT opera solo come amplificatore di forze, mentre la dinamica della superiorità fra chi attacca e chi è bersaglio viene definita con metriche diverse: l’accesso alle reti, ormai pandemico, cambia i differenziali di potere tradizionali, a tutti i livelli della società, e determina come valutare gli equilibri di forza.

Nel digital warfare un ruolo sempre più dominante spetta alla deception, l’inganno, che può trasformare l’informazione (e dunque il controllo dei dati e della loro forma e struttura) sia in «arma», nella fase offensiva, sia in «bersaglio», e dunque debolezza, nella difesa. La centralità che l’informazione ha rispetto a quello che ne è il veicolo, l’IT, fa sì che sia la capacità di ‘influenzare’ a diventare il fattore critico di un conflitto, la cui natura è per

ciò in continuo divenire. Per questo una qualche forma di controllo sulle comunicazioni di massa diventa prioritaria per governi e Forze armate. Qui si apre un baratro etico: è possibile salvaguardare la riservatezza dell’individuo e al tempo stesso la sicurezza della società nel suo insieme? Perché con la rilevanza crescente della deception, che sempre più è parte integrale delle comunicazioni di un Governo, la manipolazione dell’informazione diventa, nel bene e nel male, funzione essenziale di difesa e di offesa.

Nella società, d’altra parte, l’uso – e la dipendenza! – da internet crescono con modalità ormai più che esponenziale; così la cybersecurity sta rapidamente evolvendo da disciplina puramente tecnica, basata su metodologie di analisi e inferenza dai dati, a concetto strategico geopolitico, che richiede il sostegno di strumenti di intelligenza estesi all’intero compound socio-economico e politico, perché gli attacchi cyber minacciano ora in toto la prosperità, la sicurezza e la stabilità nazionale e internazionale.

I decisori della sicurezza nazionale devono giocare nel cyberspazio una complessa partita in difesa dei nostri valori, e per loro una chiave di successo starà nella disponibilità di scenari affidabili e completi, perché solo così potranno colmare la distanza fra strategia e tattica, muovendosi a tutti i livelli del processo cyber. Dunque, anche nel caso digitale si ripete una narrativa nota: la sicurezza delle infrastrutture critiche nazionali deve avere meta-livelli strategici, come deterrenza e controllo, basati su una rappresentazione globale della struttura e delle sue relazioni interne in termini di data science, crittografia, inferenza non lineare per l’individuazione d’intrusioni e su metodi avanzati d’intelligenza artificiale per decifrare la strategia dell’avversario.

In questo quadro sono cruciali le tecniche di encryption per garantire la confidenzialità dei dati nei processi di comunicazione e immagazzinamento. Esse richiedono nuovi strumenti di processamento dei linguaggi– sia naturali sia artificiali – specialmente in situazioni critiche, come la necessità di delegare i processi di analisi a macchine non sempre La difficoltà è che uno schema efficiente di encryption deve essere coerente, il risultato decriptato deve cioè essere uguale a quello che si otterrebbe se l’analisi fosse effettuata sui dati originali: una sfida matematica, logica e computazionale senza precedenti.

Varie soluzioni complesse sono già in opera per casi specifici: condivisione d’informazioni segrete, dimostrazioni di conoscenza zero, oblivious transfer, anonimato, privacy, voto elettronico, aste elettroniche, protocolli di lotterie, protezione di agenti mobili, computazione multiparty ecc., ma la partita rimane aperta, con una sfida che è al contempo scientifica e politica, entrambe di straordinaria difficoltà.

Una diversa declinazione di questa stessa problematica è la versione che tocca la società in senso lato, non solo nella prospettiva della sicurezza ma anche in quella più ampia dei valori e della cultura. Essa nasce dal fatto che oggi siamo incredibilmente vulnerabili alla manipolazione delle nostre opinioni, preferenze, credenze e dei nostri sentimenti mediante la disinformazione digitale. Lo strumento è quell’insieme di bias – sociali, cognitivi, economici, algoritmici – cui siamo sottoposti attraverso la rete. Questo ha generato un terribile meccanismo sociale di autodifesa, che consiste nel fidarsi soltanto dei segnali provenienti dal nostro ‘circolo sociale’ e rifiutare ogni informazione che contraddica l’insieme di convinzioni – non necessariamente basate sull’esperienza – del nostro gruppo di riferimento. La logica di questo atteggiamento è scritta in profondità nel nostro Dna, perché ci è stata utile nel processo di evoluzione, quando la specie si adattava per sfuggire ai predatori! La densità del web è così alta che la disinformazione si propaga quasi istantaneamente entro un gruppo e, al contempo, così segregata da riuscire con difficoltà a passare da un gruppo all’altro, in modo che sempre più i membri del gruppo sono esposti selettivamente a un’informazione allineata solo con convinzioni già acquisite; uno scenario, questo, che non favorisce certo lo sviluppo di un salutare senso critico!

Il rapporto con i media è significativo: il pregiudizio ci porta ormai a condividere o meno un titolo senza neppure leggere l’articolo. Si vedono già i primi tentativi di costruire motori di ricerca mirati a questo fine, basati sulla capacità di distinguere – con parole chiave e algoritmi – fake news e true news, ma sono molto deboli. La loro debolezza sta nel fatto che la distinzione manichea fra «vero» e «falso» dipende soprattutto, tautologicamente, da quali fonti sono considerate affidabili e non dall’oggettiva veridicità del testo. Ancora una volta è la scienza a essere chiamata in causa: è necessario un truth algorithm efficace e affidabile e, soprattutto, indecifrabile.

Si aggiunga il fatto che in alcune loro istanze i dati sono addirittura incomputabili per i nostri computer e ci si chiede di andare oltre a quella straordinaria costruzione concettuale che è alla base di tutto il nostro bagaglio di metodi e strumenti di analisi: la macchina di Turing.

E i valori? Che ne è in questo quadro di riferimento di etica, categoria profitti-salari-lavoro, solidarietà, salvaguardia delle risorse e della natura, salute e benessere? E cosa ne sarà?

Coniugarli con obiettivi, metodi e necessità della scienza, della tecnologia e della sicurezza implica trovare equilibri, tanto delicati quanto difficili. La nostra attenzione ai valori fondanti della civiltà democratica, cui siamo approdati dopo tanti secoli di storia travagliata, non deve conoscere sosta, perché il rischio è di essere travolti da una tecnologia fine a se stessa e dover cedere pezzi preziosi della nostra umanità.

Il mondo moderno nasce solo circa 400 anni fa con l’Illuminismo. Ci fa sorridere pensare come l’incitamento di Immanuel Kant nel parlare di Illuminismo: «Sapere aude! – Abbi il coraggio di servirti della tua intelligenza!» suoni quasi come un ossimoro, se accostato a quell’altrettanto appassionato di Steve Jobs, «Stay hungry, stay foolish!», per spingerci a osare sempre di più per innovare. Illuminismo e rivoluzione scientifico-tecnologica: è con essi che nascono capitalismo, democrazia, commercio globale, potenza industriale. Oggi, la crescita e la diffusione senza precedenti delle reti e della connettività stanno creando un nuovo tipo di ordine, con nuove e diverse sorgenti di forza. Il potere è allo stesso tempo più distribuito, ma anche più concentrato, come mai prima d’ora, mentre tutti i valori, da quelli economici e finanziari a quelli di conoscenza e morali, tradotti in una miriade d’impulsi sembrano fragili, perché le scale di tempo sono sempre più brevi e quelle spaziali più globali, e il profondo cambiamento nei poteri nazionali sarà messo in ombra da un cambiamento ancora più profondo e fondamentale: quello della natura del potere attivato dalle tecnologie di comunicazione.   È in questo scenario, un po’ apocalittico (ma quanto reale!), che la scienza del digitale, dei dati, dei sistemi complessi, dell’intelligenza artificiale può e deve giocare il suo ruolo cruciale; ma questo lo potrà fare solo se saprà da subito dotarsi proprio di una forte piattaforma di valori etici che siano universali, condivisi e non particolari; ispirati al benessere collettivo e alla qualità della vita di tutti. Dobbiamo – e, anche in questo, quella dettagliata tomografia della società che i dati ci consentono di mettere a punto sarà strumento fondamentale – concepire un nuovo modello sociale che si adegui ai cambiamenti che il digitale comporta, sapendo coniugare la ridotta necessità di lavoro, con salari adeguati e sicurezza.

Mario Rasetti
Presidente della Fondazione ISI, Torino-New York

Su